DeepFake のような技術で人は騙されるようになるのでしょうか。あるいは見破ることができる方法をもつのでしょうか。
技術の発展は、SEO と同じでイタチごっこになります。嘘を作り出す技術と、それを見破る技術はお互いを打ち負かしながら進化することでしょう。
例えば Facebook の内部の情報を読み取りたいと思った他の企業がいたとしたら、架人格で Facebook に入ってフレンドをたくさん増やして情報を抜くのが効率的に思えます。ユーザーの持つ端末から情報を抜き取る方法が NG になったこの数年、泥臭くてもそのような人海戦術（bot海戦術）が行われていても不思議ではありません。
つまりこれが発展し、直接敵陣にAIを放り込んで情報を抜くのが正当な戦い方になっていく可能性を想像しています。当然、送り込まれる側はそれを阻止するために、フェイクを見破ろうとするわけです。その先に、架空の人格づくりと、その見破り方がディープラーニングで超高速で進化していく展開が待っています。
そんなシンプルなことではないと思いますが、概ねそのような展開をたどり、結果としてかなり近い将来、人間の認知では真偽が判別できない状態になりるわけです。本物って何？という認知の不具合が表面化し、人々の価値観にも変容をもたらすでしょう。
この展開に大きな技術的進化が必要なのではなくて、まず単純にディープラーニングの学習対象を増やし、試行を繰り返すことができる能力が必要になります。そのリソースを確保できる能力、言い換えれば総合的な計算能力、そのための半導体性能や電力などを持つものが強者になります。計算能力は力であり価値である、ということになります。既に力もをつものはいるわけで、時間の問題です。
やがて、偽物かどうかは判別不可能になります。真偽を判別するために、人間は役立たなくなります。そして人類は AI に依存することになりす。その段階では、例えばオンラインで会話している相手が人間かどうかや、流れている動画がオリジナルかどうかについては「もう気にしない」か、「常に AI にチェックをしてもらう」かになります。どちらの道にしても、Siri みたいな相棒が AR レンズを通して監視することを人類は受け入れるのでしょう。その時同時に、そんな架空の人格との共存も受け入れていくことになります。境界は曖昧になります。
だから余計に思います。計算能力は価値です。