AI動画で問われるモラル

目まぐるしく進歩するAIの世界。
数日前にリリースされたOpenAIの動画生成AI「Sora2」は著作物の学習について見直しが行われたようで、
精度の大幅劣化と引き換えに主な著作物はそう簡単に出ないようになりました。
……が、それと指定しなくてもなんとなく関連していればキャラは出てきてしまいます。
試しに「メロンパンが降ってくる洋風の街で、傘をさした少女がそれを拾っている」
というようなプロンプトで生成してみたら、指定していないのに「ごちうさ」のキャラが出てきました。

一方精度については明確に劣化しており、
立ち姿の画像を読み込ませて「横を向いて歩き出す」という指示すらぎこちない動きになってしまっています。
しばらくすればまた改善すると思うので今後に期待したいところですが、
個人的にはまだ動画生成については活用方法を見出せていないですね……。
Sora2よりも画像生成AI「DALL-E」のバージョンアップの方が楽しみですらある。

というわけで著作権対策のためにちょっと後退したSora2の代わりに登場したのがGrokの動画生成です。
「Grok」とは旧Twitterを擁するイーロンマスクの「xAI」社が開発している生成AIで、
ChatGPT、Geminiといった超大手と比べると学習モデルの規模ではおそらく一歩及ばないものの、
センシティブな表現に対して比較的寛容であることが特徴です。
このGrokがSora2を追うように動画生成AIをリリースし、いまのところクオリティでは引けを取っていません。

センシティブな動画もある程度までは許容されることもあって、
さっそくディープフェイク（写真から作成されたアレな動画）なんかも作られているようです。
これを一般人が何の苦労もせずにスマホだけで作れるようになったというのがあまりにもヤバすぎる。
特に女子なんかはおいそれと顔写真を掲載できない世の中になったのではないでしょうか。
「容姿が恵まれていることのリスク」がまた一段と高まったような気がする。
言うまでもなく、ディープフェイク動画を流出しようものなら即お縄を頂戴することになります。

卒業アルバムの写真を読み込ませて、その子が動いている動画を作るというのはもう簡単にできるようになりました。
その気になればなんだってさせられます。
が、これは誰でも越えられるけれど越えてはならない新しいモラルの壁なのでしょう。
その子が好きならなおさら、好きな子に対する冒涜であるとも言える。
個人利用ならリテラシー的には問題ないと言いたいところですが、
GrokにしろSoraにしろSNSに公開する前提という名目で動画を生成しておりオフライン完結は不可能なので、
どんなに策を弄しても流出するリスクはあると言えるでしょう。
そういう意味でも他人の画像を生成に使わないというのは新しい常識として受け入れる必要はあると思います。
今後は学校の授業でもそういうことを教えるようになるのではないでしょうか。