AIがつくる「偽動画」の嘘を、認証技術とブロックチェーンが暴き出す

事件の現場などで「そのとき何が起きたのか」を証明してくれる動画。しかし、動画が保存された機器がハッキングされ、AIを利用したディープフェイク技術で巧妙に改ざんされたら、それは人の判断を狂わせる道具になる。動画を誰もが信頼できるものにするためにはどうすればいいか? ある企業はこの問題を認証技術とブロックチェーンで解決しようとしている。
AIがつくる「偽動画」の嘘を、認証技術とブロックチェーンが暴き出す
PHOTO:GETTY IMAGES

防犯カメラや警察官のボディカメラ、目撃者のスマートフォンなどが撮影した動画は、警察のような法執行機関にとってますます重要なツールになっている。しかし、人工知能(AI)によって偽動画を生成する「ディープフェイク」と呼ばれる改ざん技術が誕生したこと、そしてインターネットに接続されたデヴァイスの多くがセキュリティの問題に悩まされていることから、動画が信頼に値するものであるかを見極めるのが難しくなっている。

関連記事AIで進化する「フェイク動画」と、それに対抗するAIの闘いが始まった(動画あり)

こうしたなか、この問題の解決策を暗号認証に見出したプロジェクトがある。

動画を撮影時にハッシュ化し捏造を防止

Amber Authenticate」と呼ばれるこのツールは、デヴァイスで動画を撮影する際にバックグラウンドで動作する。そしてユーザーが決めた頻度で定期的に「ハッシュ値」(データを暗号化したもの)を生成し、消去できないかたちでパブリックブロックチェーンに記録する。

同じ動画をアルゴリズムに再度かけたとき、音声や動画データに変更が加えられた場合は、以前と異なるハッシュが生成されてしまう。この仕組みによってAmber Authenticateは、動画が改ざんされていないか秘かに教えてくれるといわけだ。

なおユーザーは、デヴァイスのシステム的な制約と撮影内容のバランスを考えて、生成頻度を設定する必要がある。例えば、警察官のボディカメラで撮影した動画でのハッシュ生成頻度を30秒毎など長めに設定してしまうと、短くわずかな、しかしインパクトの大きい改ざんが行われる可能性がある。一方、小企業の監視カメラで数秒間隔の生成頻度を設定するのはやり過ぎだろう。

Amberの最高経営責任者(CEO)であるシャミール・アリバイは次のように語る。

「警察官のボディカメラには、多くのメーカーや型番でシステム上のリスクがみられます。わたしたちが懸念しているのは、そのようなカメラで撮影した動画にディープフェイク技術が使われたときのことです。証拠を単に追加したり消去したりできるだけでなく、意のままに操作できてしまうとしたらどうなるでしょう? 一度証拠になってしまうと、捏造箇所を指摘するのは非常に難しくなります。捏造の判別は常に後手に回ってしまうのです。でもこのアプローチを使えば、ハッシュが合致するか否かを確認するだけですべてが公的に検証できます」

誰もが動画を信頼できるようにするために

Amberのようなツールには、捏造が隠蔽される可能性を警戒する人々への訴求力がある。例えば、人権活動家や言論の自由の推進派、法執行機関の監視人といった人たちだ。一方で、米国政府も動画の完全性を確かめるツールに興味をもっている。

AmberのCEOであるアリバイは、2019年2月下旬に開催された米国国防高等研究計画局(DARPA)の発表会で、国防総省(DoD)と国土安全保障省(DHS)にAmber Authenticateを披露したという。ちなみに、DHSは同じく動画認証ツールを開発しているブロックチェーンベースのデータ認証企業Factomの同様の解決策にも興味を示している

Amber Authenticateは、オープンソースのブロックチェーンプラットフォームであるEthereum(イーサリアム)上に構築されている。

ブロックチェーン上に保持されているオリジナルと合致するハッシュが動画のどの部分にあるのか(あるいは合致しないハッシュがどこにあるのか)は、Amberのウェブプラットフォームで視覚的に確認できる。再生中に動画の周囲に緑色の枠が表示されればハッシュは合致、赤色の枠が表示されている場合は合致せずだ。

動画プレイヤーの下には詳細な「監査証跡」(ファイルがいつ最初に作成され、アップロードされ、ハッシュが生成され、ブロックチェーンに送信されたかというリスト)も表示される。

Amber Authenticateのアイデアは、防犯カメラ(CCTV)やボディカメラなどのメーカー向けだ。メーカーはAmberをライセンス認証し、自社のデヴァイス上で実行すればよい。

Amberの研究コンサルタントであるジョシュ・ミッチェルは、18年8月に主要なボディカメラ5タイプでソフトウェアの脆弱性を発見したが、これらのカメラのうちの数タイプでAmber Authenticateとの互換性を示すことに成功している。

「技術をボディカメラに適用しているのは、現状どのカメラにも認証メカニズムがないからです。ボディカメラで撮影した証拠をアタッカーから守る術が何もないという事実は憂慮すべきものですが、メーカーがこの問題への取り組みに意欲的なようには見えません。しかし、技術の証明と実証ができるプロトタイプがあれば、あらゆる立場の人が動画の内容と撮影方法について確証をもてる方法があるのだと証明することができるのです」とミッチェルは話す。

このプロジェクトに自己資金を投入しているアリバイは、Amber Authenticateを外部専門家からの検証に対して完全に透明かつオープンにする予定だと話している。

実用化にはAmber自体のセキュリティの検証も必要

米国自由人権協会のシニアポリシーアナリストであるジェイ・スタンリーは、動画(特に警察官のボディカメラで撮影したもの)のための認証ツールは、Amber Authenticateであろうとなかろうと、すぐには実用化できないだろうと話す。

「技術者は認証技術と同時に、Amber自体のセキュリティも検証しなければならないでしょう。とはいえ、わたしはAmberやその類似製品がスタンダードになることを願っています。動画の認証はボディカメラそのもの同様『実際には何が起きたのか』という証拠に対する社会的な信頼を得るのに役立ちます。非常に厄介で難しい事件でも、提示された証拠は公正かつ信頼に足りうるものだと、誰もが自信をもって思えるようにしてくれるのです」


RELATED ARTICLES

TEXT BY LILY HAY NEWMAN

TRANSLATION BY YUMI MURAMATSU