Google Pixel 11 Pro foldのカメラ性能
boseはSONYのフルサイズ一眼α7sIIIを所有している
このためスマホカメラはエマージェンシー用として扱っており
これまで購入時に内蔵カメラへのこだわりは無かった
ところがPixel11 ProはTPUという専用アクセラレータが搭載された
Google TPU 8t and TPU 8i: Purpose-built for the Agentic Era
通常AIによる写真補正はCloudで実行される
処理速度は高速になったとは言え数秒はかかる
ところが・・・
Pixel11 ProのTPUはスマホ内部でAIを回し写真はもちろん動画も瞬時に補正する
動画に至っては60fpsが可能、つまり16.7ms以内に処理を終わらせる
凄すぎる!
(HDRnetはGoogleとMITの研究チームの共同開発)
GalaxyやiPhoneではしばらく追い付けないでしょう
bose
Pixel11ProのTPUについて教えて
Gemini
Pixelは動画撮影時にもTPU(およびTensorチップ内の専用回路)をしっかり活用しています。
「動画撮影でのリアルタイムAI処理は重すぎて間に合わないのでは?」と思われるかもしれませんが、Googleはまさにそのリアルタイム処理を可能にするためにプロセッサ(Tensor)を独自設計しました。
Pixelの動画撮影でTPUやプロセッサが使われている仕組みや機能は以下の通りです。
1. 毎秒60フレームでAI補正を回す「HDRnet」
静止画で行っているような「暗い場所を明るくし、白飛びを抑え、色味を最適化する」高度な画像処理(computational photography)を、動画でも1秒間に30〜60回連続して行うため、TPUとISP(画像処理プロセッサ)が直接密連携して動いています。 これにより、4K 60fpsなどの重い動画でもリアルタイムで白飛び軽減や色味補正がリアルタイム適用されます。
2. 被写体追尾・フォーカス(FaceSSDなど)
動画撮影中に動く人物の顔や被写体を検知・追尾するアルゴリズムも、TPU上で超低遅延・省電力で処理されています。これにより、カメラを動かしてもスムーズに人物へフォーカスが合い続けます。
3. 音声のノイズキャンセリング(消しゴム音声)
動画撮影中や撮影後の音声処理(風切り音や周囲の雑音をAIで分類・低減する機能)にもTPUの機械学習モデルが活用されています。
クラウド側のTPUを使う機能も(動画ブースト)
本体内のTPU(オンデバイス)だけで処理しきれないような、映画並みの極めて高度なノイズ低減や夜景処理を行う機能として「動画ブースト(Video Boost)」が用意されています。
端末内TPU:撮影時にリアルタイムでプレビュー表示・基本補正・手ブレ補正を処理
クラウド(Googleデータセンター)の超大型TPU:撮影後にRAW級の動画データをクラウドへ送信し、より膨大なAIモデルを使って夜景補正や高画質化をバックグラウンド処理
このように、「端末内のTPUでリアルタイム処理できる限界を引き上げつつ、さらに重い処理はクラウドのTPUへ回す」というハイブリッドな設計を行うことで、動画撮影にもAI技術がフル活用されています。
「HDRnet」は、GoogleやMITの研究チームが開発したリアルタイム画像・映像補正のための超軽量なAI(ディープラーニング)技術です。
毎秒60フレーム(60fps)という極めて高い処理スピードを維持しながら、白飛びや黒つぶれを抑え、プロがレタッチしたような美しい映像(高ダイナミックレンジ:HDR風)へと瞬時に補正できる点が最大の強みです。
実際の写真をご覧ください。
撮影条件は以下の通り
手振れを防ぐためブロック塀の上で固定
セルフタイマー撮影
オリジナルの方はRAW撮影を無調整でJPEG変換
AI処理済みはPixel11 Proの撮って出し
1倍(光学ズーム)

5倍(光学ズーム)

30倍(デジタルズーム)

オリジナルの性能が思ったより良かった (´・ω・`)💦
AI処理後は輪郭や明るさ補正が入った
このブログへのコメントはmuragonユーザー限定です。