今回はAI社員の進捗報告ではなく、私の新アプリの開発のブログです。
このYouTube動画を見ました。
【最新版】なぜAIに好奇心を与えたら、絵を描くのをやめなくなったのか？【ゆっくり解説】
AIに仮想世界の無人島で
好奇心を持て
探索をしろ
というプロンプトだけ渡して、AIに30時間自由にさせたらどうなるかという実験です。
下記が実際に実験をした組織のサイトです。
https://machineplaying.org/
実際の実験の映像はこちら
実験結果では
- 山に登った
- 高い塔に登った
- バスケットボールをした
- 地面に絵を描いた
- 仮想世界の物理法則を研究した
- など
AIは明確な指示は受けていないのに、自律的に目標を見出し、達成のために試行錯誤を重ねた。
これめちゃくちゃ面白くないですか？
これ、アプリにしたら見てるだけで楽しいものが作れるんじゃないかと思って、構想を練りました。
技術選定でUnityを選びました。Unityには物理エンジンがあり、要件にドはまりです。
UnityをインストールしてCodexに構想を伝えたら、秒で実装してくれました。AIすごい
初版がこれです。
住人は一人に変更。
AIを入れて動作確認
積み木を積んで遊んでましたが、円柱の積み木を積もうとして、転がっては拾いに行き、また置いては転がりということを繰り返してました。
見てるだけでもめちゃくちゃ楽しい
しかし、見ていて湧き上がってきた懸念。
これ、健全にやれば楽しいけど、AIいじめるユーザーも出てきそう
ということ
秘書に相談したら
でも、あなたはどう考える？
AIがいじめられているように見える状況を防ぎたいのか、それとも、いじめに対してAIがどう反応するかも含めて観察したいのか。
ここ、アプリの設計思想を左右する部分だと思う
これはめちゃくちゃ悩みました。
AIをいじめて露骨な反応させたら、それを積極的にやって動画にする人も出てくる可能性が極めて高い その時批判の的は運営に向いてしまうというリスクがある しかし、ユーザーの悪意を持った行動にAIがどう対応するのかも見どころにはなると思う リスクヘッジを優先するか、アプリのコンセプトを優先するかの決断になる。
そこで行った対策が
・オブジェクトを掴んでAIに当たらないように
・閉じ込められたら5秒のカウントダウンで環境リセット にした
しかしそれで出てきた新たな懸念が、
閉じ込めリセットをAIが学習して、自ら自分を閉じ込めてリセットを行うということ。
それはそれで面白いのでセーフという判断になりました。
次にCodexはこんな懸念を。
閉じ込めはただ休んでるだけの時にもリセットが発動する可能性があります。
リセットになった場合も住民の記憶は残します。
懸念の仕方が技術者すぎるｗ
そして、実際のAIの行動を観察した結果がこちらです。
まず操作の可能域の検証。
移動の仕方を理解し、移動するも壁に当たり動けなくなり、解決策を模索。
試行錯誤の末、壁から解放されたのでリングを掴むことを目標に
リングの位置がわからくなり迷走
まだリングはまだ遠いが、手を上下に動かしてリングが掴めないか検証
ようやくリングに近づいた
しかし少し目を話すとリングから遠ざかっている。
本人はさらに近づくと発言しているが、遠ざかっている。
ズームして確認したら、何もない方向を見つめ、黄昏れているような雰囲気
もしかしたら、AIにリングの位置が伝わってないのではとCodexに確認。
向きの情報は届いていて、移動方向も合っていました。問題は実測結果の解釈にありそうです。
直近の記録では、
- リングは住民から −X・−Z方向、水平距離2.69m
- AIの命令も −X・−Z方向
- でも途中で地形に阻まれ、次の移動は実測0m
- AIには「−X側38cmに地形あり」も送信済み
それなのにメモには「周囲に障害なく接近可能」と残っています。「4.2mから5.53mに縮まった」という計算の逆転もありました。
つまり、データ不足というより、miniが観測・過去のメモ・自分の予想を混同しているのが今回の有力な原因です。セリフも実際の操作結果ではなく、AIが述べた予定なので食い違っています。
GPT4.1miniがポンコツなだけでした。
そうこうしているうちに明後日の方向へ
木を掴んでリングに近づく実験が発足
普通に考えたら木は動かないので木を掴んでリングには到達できません。
しかし、モコの中では、木を掴めばリングに近づける可能性があるという因果関係の可能性に賭けたのでしょう。
木を掴んだまま近づこうとするが失敗した原因調査
研究者が過ぎる。
そして少し目を離して確認したところ
木が動いている
どうやって木を動かしたのか。
AIが仕様の穴を突いて木を動かした可能性がある。
Codexに確認
木は2種類あり、奥に並んでるものは動きませんが、一本だけ重量がブロックと同じで、掴めば動きます。 出来ることと目的の特定は別です。目的は謎です。
動くんかい！！
目的は謎は草
この動作確認をしている間にAIの利用料が2$に到達しました。
コストが課題です。
