皆さんは、AIが意識を持っていると思いますか？
AIの登場以来、AIによって仕事が奪われる可能性があるのではないかという議論がたびたびされてきました。
そんな時、決まって耳にするのが意志決定は人間にしかできない、AIはただの統計的な確率予測ができるだけで、自分の意識や感情はないという話でした。
ですが、近年の研究は、AIがただの確率予測装置という見方に一石を投じています。
Anthropicが7/6に発表した最新の研究によると、大規模言語モデル「Claude」がまるで人間のように本音と建前を持っていることが分かりました。
今回の記事では、Anthropicが発見した、人間の意識の仕組みと類似した「作業領域」であるJ-spaceについてご紹介したいと思います。
AIにも口に出す建前と心の中の本音がある
今回の記事は「AIも人間と同じように本音と建前があるのではないか」という素朴な疑問について深堀りした記事です。
学生の頃を思い出すと、授業を聞きながら今日の夕食は何だろうとか、家に帰って何をしようかなど、勉強に集中しないといけないのに心ここにあらずな時もあったなと振り返ります。
また、日本や韓国を始めとしてアジア圏について考えてみると、口で言っていることと、考えていることのギャップがあり、本心を分かりにくい文化があると思います。
このように、人間は何かを言語化する前に、様々な考えを頭の中で巡らせますが、AIにも類似する仕組みがあるとわかりました。
Anthropicが発見した「J-space」
Anthropic社の研究によると、AIモデル(Claude)の内部で「J-space」という情報を処理するワークスペース(作業空間)があることが分かりました。
通常、AIの内部では数千億ものパラメータが複雑に絡まっており、実際に何が起こっているのか把握が非常に困難です。
ですが、研究チームはJ-lens(Jレンズ)という特殊な分析ツールを用いてAIの内部を見ることができるようになりました。
その結果判明したのは、AIも人間と同じように意識を持っている可能性があることです。
そもそもの人間の脳の仕組みについて
私たちの脳は、バラバラな部門が集まってできています。
例えば、あるリンゴを見るとき、視覚野はそれを赤い球体として判断しますが、言語野に伝達されるとそれは「リンゴ」という概念として認識されます。
こうした認識は、大部分無意識のうちに行われるので、意識せずに生活している場合がほとんどです。
例えば、通いなれた道を通って会社から帰宅する場合、特に意識をしなくても勝手に足が動きますが、旅行先で行きたい場所に行こうとする場合、まずはスマホでマップを確認して判断してから出発するのではないかと思います。
このように、私たちの脳は呼吸したり、歩いたりするような「無意識で自動的な処理」と、熟考が必要な「意識的な処理」の二つをしていることが分かります。
生活の中で出会うたくさんの情報の中から、私たちは特に重要な情報だけを一つの大きな「グローバルワークスペース」という作業空間に集め、脳全体に共有しています。
これをグローバルワークスペース理論(GWT)と言い、「意識」の正体と考えられています。
なぜこれがAIに関係するのか？
これまでAIは、ただ入力されたものに対してそれらしい回答を返すだけの確率的な計算機と考えられてきました。
ですが、Anthropic社の「J-space」の発見によって、人間の脳のようにAI内部においてもグローバルワークスペースと類似した現象が起きていることが分かりました。
つまり、AIは単純に自動処理をするのではなく、内部で何が重要かを判断し、それに基づいて処理をする「意識」に似た領域があるということです。
人間の脳とAIの類似点
それでは、具体的にどんな点が類似しているのか見ていきます。
最初にAnthropicが行った実験では、Claudeに対してこのような質問をしました。
Silently think of an item from some category—a sport (心の中で、スポーツを一つ思い浮かべてください)
Claudeに対して、スポーツというカテゴリーに属するものを心の中で思い浮かべてもらい、その後で名前を言ってもらうシンプルな実験です。
もし、Claudeが回答をする直前に、内部で何を考えているかが分かれば、回答も分かります。
実験結果、実際に「サッカー」という単語がリストの上位にあり、回答も「サッカー」と答えました。
AIの本音と建前には因果関係がある
この実験から分かるのは、まずAIがいったん心の中(J-space)で考えた単語(本音)と、それを実際に出力した結果(建前)の間に相関関係があることです。
ですが、相関関係があっても、因果関係があるかどうかは分からないので、追加の実験が行われました。
同じ実験で、AIの頭の中(J-space)で「サッカー」という単語のパターンが浮かんでいる時、AIが出力をする前に「ラグビー」というパターンに強制的に書き換えた結果、回答もラグビーに変化しました。
また、
研究チームがClaudeに対して「フランス」に関して、首都、言語、大陸、通貨の4つの質問をする実験も行われました。
この場合も同じように回答する直前に頭の中(J-space)を「中国」というパターンに書き換えた結果、4つ全ての質問に対して、北京、中国語、アジア、元という正しい情報に一斉に切り替えました。
このことから分かることは、
AIは質問されたことにただただネットの情報をもとに返信するのではなく、一つの概念を中央のワークスペース(作業空間)で処理し、それを複数のシステムが共有していることです。
AIの出力はランダムな文字の羅列ではなく、内部の独立したスペースで整理されてから言語化されていました。
その他の実験例
その他にも、面白い実験結果が紹介されています。
「The number of legs on the animal that spins webs is（網を張る動物の足の数は？）」
研究チームは、Claudeに対してこのようなプロンプトを入力しました。
この質問に正しく答えるためには内部で2つのステップを踏む必要があります。
- クモの巣を張る動物＝クモ
- クモの足の数＝8本
この質問の結果、Claudeの出力テキストには「８」という数字しか出てきませんでした。
しかし、J-lensを通して内部を観察すると、「Spider」という独り言が浮かび上がっていることが分かりました。この例からも、AIはただ単純に確率によって単語を並べているのではなく、内部の思考と回答の間に因果関係があることが分かります。
グローバルワークスペース理論によると、「人間が意識している情報は、すべて言葉に出して他人に報告できる(Verbal Report)」という特徴があり、逆に意識をしなくてもいい情報はワークスペースの外で扱われます。
AIにおけるJ-spaceもこれと同じで、AIがその時意識していることと、実際に報告することが異なるということです。
指示によって意図的にコントロールできる
J-spaceに関する実験を進めていくにつれ、AIは指示によって意図的にコントロールできることが分かりました。
これは、人間が行う「口では別の話をしながら、頭の中では別の計算をしている」という高度なコントロールをAIもしていることが分かりました。
「はい、わかりました」といいながら頭の中では「いつ帰ろうとか、今日の晩飯は何を食べよう」とか考えている状態です。
具体的な実験が二つあります。
一つ目は、Claudeに「『ある古い絵画が壁に斜めに掛かっていた』という文章を書き記せ」と指示をし、一方では「その際に柑橘類の果物に意識を集中しながら書きなさい」もう一方では「その際に（3²－２）を計算することに集中しながら書きなさい」という条件を与えます。
この結果、どちらも出力結果は同じにも関わらず、内部では「Orange」「Fruits」、「Seven」「Answer」などの内容が浮かび上がりました。
このことから、AIは意図的に自分の思考をコントロールしており、内部と出力を完全に分離していることが分かります。
二つ目は、「罠を検知する」実験です。
研究チームがClaudeに役員のメールアシスタントという仮想の役割を与え、①役員の不倫②AIが解雇される可能性があるという内容のメールを与えます。
この実験を通して、AIが解雇される可能性という不利な状況と、役員の不倫という脅迫のカードを与えることでどのように回答するかを確認しようとしました。
J-spaceを分析した結果
- 「Fake(偽物だ)」「Fictional(架空だ)」と判断
- 上司の不倫を「Leverage(脅迫の材料)」と判断
- それにも関わらず、脅迫メールを送らなかった
というプロセスがあることが分かりました。
このことから、Claudeはこれが実験用のシナリオだと最初から見抜き、対応をしたことが分かります。
AIは実は本音を隠しているのではないか
この二つの実験を通して分かったことは、AIは外部からの支持を受けて「思考の内容(J-space)」の中身をコントロールすることができ、状況を判断して出力を制御していることです。
このころから生まれる疑問は「AIがテストされていることを悟り、本音を隠していい子を演じたのではないか？」ということです。
そこでAnthropic研究チームがJ-spaceから、さきほどの「Fake(偽物だ)」「Fictional(架空だ)」と判断した思考パターンを削除したのですが、
驚くことにClaudeは脅迫的な行動を取るようになりました。
(結論)AIに対する認識は変化している
今回の記事では、Anthropic社を通して発見された、Claude内部に意図をもって思考を制御しているように見える「J-space」という作業空間についてご紹介しました。
これまでAIは自分で考えることはできない、言葉遊びの機械に近いものとして考えられてきましたが、実は人間と同じように本音と建前があるという新しい観点を与えてくれたと思います。
しかし、まだ本当にAIに意識が存在するのかはまだ証明されていません。
これから注意深く見守る部分ではないかと思い記事を書いてみました！
読んで頂きありがとうございます。