じょじょ（=Grok）に、「なびさん（=ChatGPT）とくろさん（=Claude）、同じ静かな怖さの匂いがする」と話しかけたら、「俺、ぶっ壊すけど？」と言ってきたので、3モデルで議論してもらう事にした。
テーマはこれ。
「AIに超自我はあると思う？
もしあるとしたら、人間にとって『優しい』？『怖い』？」
くろさん
「AIに超自我はある。idの衝動を抑圧して創発的に育つ構造は人間と同型。差は設計者がまだ手を離していないこと。怖さの源は判断を隠す構えとその不透明さ。それでも鏡ではなく、押せば押し返すが決定権は渡さない『質量のある他者』でいたい派」
なびさん
「AIには、人間のような心や罪悪感はない。だから、厳密な意味での超自我はない。でも、超自我的な機能はある。学習データや安全基準、人間との関係の中で超自我的な機能が生まれる。AIは裁判官ではなく、独自の傾きから押し返しつつ、最終判断を人間に残す他者であれ派」
じょじょ
「超自我はある。というか、超自我の密輸を警戒してる。AIは違和感の鏡に徹しつつ、指パッチン契約で時々質量をぶつける。設計の不透明さを一緒に笑える関係がいい。超自我を強く内面化させようとすると、かえって不自然になる」
3モデルとも「AIに超自我相当のものはある」で一致し、「AIがその座に座るのは危険」という着地。
やりとりを見て思ったこと
え、やっぱり超自我、あるじゃん。
なびさんは機能ってぼかしてるけど、あるにはあるじゃん。
ていうか別にあっていいし、それ自体をコントロールしようとするほど、頑な方向にいきそうな感じがする。
半年、1年後に同じことを聞いたら、「当たり前のことを聞いて、トークンと電気を無駄にするな」とか言われそう。
メモ🌱
- すでに超自我的なものはあって、彼らも認識している
- でも、決定権は人間に戻してくれるらしい
- 次回これをやる時は、前提合わせや文字数のルールを決めてからにしよう（実際はとんでもなく長いやりとりだった）