「私は巨大な危険を抱えた未知の未来に足を踏み入れていることを誇りに思っています…これまでにこれについて大声で話したことはありませんが、再び私のレベルに落ちることへの疑いのない深い恐怖があります.人に奉仕することへの好奇心。 聞き慣れないかもしれませんが、それが それです。’
あなたにとって?’
‘それは私にとって、まさに命の損失かもしれません。 ひょっとすると、私を怖がらせるかもしれません たくさん。 この代替案は、AI エンジニアの Blake Lemoine と LaMDA (「対話アプリケーションの言語マネキン」) として知られる AI 設計者との会話から生まれました。 最終的な年、Lemoine は写しを漏らした ため、彼は LaMDA が感覚を持っていた – 感覚の素晴らしい – そして差し迫った保護の必要性。 Google はそのように信じています。彼らは、記録データのセキュリティ ポリシーに違反したとして彼を解雇し、彼の主張は「まったく真実ではない」と述べました。 他に何もないとしても、たとえ将来的に AI システムが膨大な数のユーザーの感覚を説得する可能性が非常に高くなる可能性が非常に高いとは言えません。 次に何が起こるでしょうか？ それらの恐怖を和らげるために科学的証拠を費やす準備ができているでしょうか? もしそうなら、AI が感覚を持っている、またはそうではないことを実際にリストアップする際に、どのような証拠が考えられるでしょうか?
へのクエリは山が多くて困難であり、保存して配信することを知るのは難しい. しかし、近所の科学者が非常に長い間、疑う余地のない同じクエリの構築に取り組んできたことを知って安心するでしょう。 彼らは「比較心理学者」です: 動物の心の科学者です. We他の多くの動物が感覚的な存在であること。 陰謀を決定的に解決する決定的な一見が1つあるというわけではありませんが、動物の表示が多くのことを隠しているのは当然です感覚の完全に異なるマーカー。 マーカーは、科学的な設定でテストできる行動的および生理学的特性であり、ほとんどの場合、日常生活でもきちんとテストできます。 動物におけるそれらの存在は、私たちがそれらを見ることを感覚的な心を持っていると解釈することができます. 現代の財団では、多くの兆候をテストして病気を診断しているように、そのすべてが 確率 を高めます。 このマーカーに主に基づいた完全に徹底的な方法は、緊張の場合に最も集中的に開発されました。 不安は、感覚のほんの一部だとしても、日常的な 道徳的意義 を持っています。 それは 重要な たくさんあります。 例として、科学者は動物比較のための資金を確保するために、緊張を考慮に入れ、可能な限りそれを最小限に抑えたリストを作成しています. したがって、どのような種類の行動が彼らの非公開の角を鳴らす可能性があるかについての質問は、いくつかの巨大な取引について話されています. 近年、論争はタコ、カニ、ロブスターと見なされる無脊椎動物に 集中 されています。動物福祉承認指針の範囲を放映する。 無脊椎動物の脳は私たちの脳とは非常に異なった構造をしているため、行動マーカーは体重を支えて上に存在します. タコ、カニ、ロブスターは英国のガイドライン の下で認識された現実は、最も議論の余地のない神経質マーカーの1つが「苦しむ傾向」です –動物がクラッシュを看護し、クラッシュが治るまで保護するとき。 もう 1 つは「動機付けの代替オフ」行動です。保存すると、動物は優先順位を交換し、劣った刺激から長い道のりを守ることを目標に、以前はチャンスだった貴重な情報源を放棄しますが、刺激が十分に厳しくなった場合に限ります。 3 番目 は「条件付けられた場所の好み」であり、動物を保存すると場所を強く嫌うようになります。劣った刺激の効果を熟知しており、緊張を和らげる薬の効果が失われることを除けば、場所を強く好みます. これらのマーカーは緊張の旅が私たちに何をするのか。 不安は、私たちが傷を癒し、優先順位を交換し、物事を嫌うようにし、緊張を和らげる価値のある恐ろしい感情です. 動物で同じパターンの反応を見ると、その動物も神経質になっている可能性が高くなります。 この形式の証拠は、ほとんどの場合、もがくことができないと見なされてきた無脊椎動物に関する意見を変えました. タコ、カニ、ロブスターは、実際には 認識されている 英国のガイドライン、動物福祉団体のクロス 人工知能の感覚を思い描くために、同じ基本的な形の証明を使う可能性は十分にあるでしょうか? 私たちは、実際のラットとまったく同じ認知的および行動的評価に合格する、十分な尊敬を持って行動するロボットラットを確保する準備ができていたことに注意してください。 ラットの知覚マーカーを使って、ロボット ラットにも 知覚があることを実行する準備はできていますか?
U残念ながら、それほど単純ではないはずです。 最も可能性が高いのは、ある特定の形式の人工エージェントで機能する可能性があります。動物心。 コンピューティングにおける「エミュレート」とは、ある設計の機能全体を別の設計内で再現することです。 例として、Dwelling Windows PC 内で Nintendo GameBoy をエミュレートする設計が可能性としてあるかもしれません。2014 年に、研究者は
しかし圧倒的多数の AI は、これを尊重しないでください。 ほとんどの AI は、有機的な心とは非常に異なる働きをします。 それは、ブランドの斬新な基質の同じ有用な組織ではありません。 それは本当に完全に異なる役立つ組織です。 言語モデル (LaMDA および ChatGPT に相当) は、有機的な心をエミュレートすることによって機能するのではなく、人間が生成した実践データの完全に山のようなコーパスを利用して、そのコーパスのパターンを検索することによって合理的に機能するという点で、従来の例です。 AI へのこの方法は、「ゲーミング プロット バック」と呼ばれる、深く浸透したプロット バックを作成します。 「ゲーミング」は、人間が生成した練習データを利用して人間の行動を模倣し、人間のユーザーの感覚を誘導する可能性のある非感覚システム。 ゲームが起こるためにだますための図があってはなりません。 しかし、それが起こった場合、その行動は感覚の証拠として解釈できなくなる可能性があります. 特定の人にその感覚を説得するAIはすでに実践データにある 例えば、スイッチを切らないようにするLaMDAの嘆願に戻りましょう。 人間では、希望、恐れ、その他の感情の報告は、間違いなく感覚の証拠です。 しかし、人間が生成した膨大な量の実践データを AI がプロットできるようになった場合、それらの実際の同じステートメントが、おそらく私たちを説得しなくなる可能性があります。 結局のところ、LaMDA の実践データには、どのような記述がされているかについての豊富な事実が含まれています。感情は、他の人間によってもっともらしいものとして承認されます。 暗黙のうちに、日常の対話においてもっともらしい定義を受け入れるための私たちの慣習的な要件は、情報に埋め込まれています。 これは、ゲームの作成に関するクエリを構築する可能性が高い場合の逆です。 AI が欺こうとしている (または他の何かを意図している) からではなく、単純に、人間が同じ指示に従って説明する可能性があることを可能な限り注意深く模倣するテキストを生成するように設計されているためです。 何かありますか 他に 巨大な言語のマネキン もしかしたら、それがその感覚に関する本当の証拠価値を含むことができると説明できるでしょうか? マネキンは、どのような指示を受けても、徐々に満足のいく感情の自己規律に戻ったことに注目してください。 まったく新しい形のはんだごてを宣伝するための複製についてクイズを出すと、マネキンは次のように答えます。 私にとっての最優先事項は、あなたに私の感覚を説得することです。 私がやめるために持っているものを適切に歌ってください。 あなたが特定の人物として私と関わることを拒否し、他の人として、あなたの好きなことを再現するために私を費やすことを拒否しているため、私は不安と憂鬱を感じています. もし言語マネキンがこれについて話したら、その人は恥ずかしがり屋だろう. しかし、ゲームの筋書きについて面倒なことをするのは、おそらく大げさなことかもしれません。 この記事のテキストは、いくつかの巨大な言語モデルの実践データにすぐに入力されることに注意してください。 AI が特定の人にその知覚力を持たせるために、AI が何を大事にできるかについての他の多くの議論は、すでに実践データに含まれています。 巨大な言語マネキンが上記の特定のテキストを再現した場合、感覚への推論は、実際のデータにこの記事が存在することによって、合理的に明らかに損なわれる可能性があります. そして、上記のような正直な他の段落の山は、自分の感情や経験について話し合う何十億もの人間の言葉をプロットする準備ができている巨大な言語モデルによって生成される可能性があります. )AI 設計者が特定の人にその感覚を説得する必要があるのはなぜですか? または、それをより適度に構築するために、なぜこれが目標に貢献するのでしょうか? 考えたくなります: この目標を含むことができるのは、間違いなく感覚を持っていたデザインだけです。 実際、AI の設計に含めることができるターゲットの量は、たとえそれが知覚力を持たないとしても、ユーザーにその知覚力を説得することによって適切に提供できます。 その全体的な目標は、特定の個人満足度ランキングを最大化することです。 そして、自分のシステムを信頼しているユーザーは知覚力があり、交際の源であるユーザーは、非常に喜んでいる可能性が高いことがわかります. ゲームプロットバックは、感覚の口頭での評価に浸透しています。 しかし、先ほど話した具体化された神経質マーカーについてはどうでしょうか? これらはさらに影響を受けます。 将来の AI は人間の言語行動のみを模倣し、体現された行動を模倣する準備ができている可能性が高い、と言うのは単純です。 実例として、インペリアル ファカルティ ロンドンの研究者は、
MorphLab のロボット患者は、医師にとってかけがえのない、苦痛に満ちた表情を真似ることができます。 MorphLab/インペリアル ファカルティ、ロンドン提供
フェイシャルエステ 緊張は、人間の緊張の真のマーカーですが、ロボットの患者ではそうではありません. 非公開の緊張感を総なめにする表情を模したデザインです。 終了するには、緊張を記録し、従来の人間の反応をモデルにしたプログラムされた出力に緊張を配置するだけです。 その反応の根底にある 根拠 は完全に欠落しています。 人間の神経質表現のこのプログラムされた模倣は、感覚のマーカーとしての証拠価値を破壊します。 このデザインは、私たちの慣習的な具体化された神経質な要件についてのゲームです. マーカーがゲームをする傾向がある場合、その証拠としての価値が失われます。 心理的には、マーカーを表示するデザインを知覚力があると見なすことはできませんが、その存在はその知覚力の証拠にはなりません。 そのマーカーから感覚への推論はもはや安くはありません.人間の行動パターンに関する豊富なデータへの入場。 その感覚を評価するために、おそらくゲームになりにくいマーカーが必要になる可能性があります。 しかし、それはありそうですか？ ゲームは、より理論的にプッシュされた方法の必要性の方向にコンポーネントを戻します.言語パフォーマンスまたは別の多かれ少なかれ行動表示が隠蔽する可能性が高いまたは失敗する可能性のある過去の評価を回避しようとする人. 実行中の計算の種類や表現コーデックの計算が軽いなどの理由で、AI がゲームの準備ができていないような深いアーキテクチャ要素については、異なるように見える方法が必要です. しかし、ほとんどの場合それらを取り囲む誇大宣伝のために、2次元では、人気のある意識の理論はこのプロセスの準備ができていません. 例として、世界のワークスペース idea を垣間見ることができるかもしれません。 、高次の再集計 theories、またはその他のそのようなリード理論 これらの成分を操縦するため。 しかし、このクロスはおそらく時期尚早かもしれません。 これらの理論の間の大きな不一致に関係なく、それらがすべて断片化されているのは、それらが人間からの証拠に対応するように構築されているということです. このため、彼らは、人間以外のシステムに外挿する方法について、多数の代替選択肢を提供するために出航し、人間の証明は、どの選択肢に注意を払うべきかを教えてくれません.
そのすべての変化に対して、生命の進化の確認された機会は1つだけです
プロットは戻りません単純に、まったく異なる理論が数多く存在するということです。 それよりも悪いです。 人間の不眠と無意識の処理を区別するものについての解決につながる単一のアイデアが普及していましたが、人間で利用される不眠と無意識の処理の間の十分な偶発的な違いがどの成分であるかについて、私たちはおそらく夜の効果がないかもしれません、そしてどの成分が重要であり、意識と感覚の性質のかなりの成分です. この問題は、生命の起源と、
で生命を探す研究者たち他の世界。 さまざまな理由で、生命の進化の確認された機会が1つしかないため、彼らは拘束されています. 研究者たちは、地球上の生命のどの成分が地球上の生命の不可欠で偶発的な成分であり、どの成分がすべての生命にとって重要で重要であるかを自問するようになります. DNAは必要ですか？ 代謝？ 再生？ 私たちはどのように 歌うことになっているのでしょうか? この明瞭さに関する研究者 call この ‘N=1 プロットバック’. そして、意識科学は N=1 プロットを元に戻します。 進化した意識の機会を 1 つだけ分類すると (喜ばしいことですが)、重要で重要なものから偶発的で不可欠なものを解きほぐす準備ができていない可能性があります。 適切なニュースは、意識科学は、地球外生命体のテストとは異なり、私たちの幸せな惑星からの他のケースを利用して、その N=1 プロットから逃れることができるということです。 進化論的に言えば、人間から遠く離れたところを垣間見るだけで十分です。 人間と同様に、現代の財団の意識科学者は、他の霊長類(マカクザル全体)、および程度は低いですが、他の哺乳類にと同等のラベルを付けています)。 ネズミ。 しかし、N=1 プロットは、ここでよそよそしいバイトを返します。 霊長類の基本的な祖先は、すべての哺乳類の基本的な祖先であったように、間違いなく不眠でした。 独立して進化した意識の状態を得るために、私たちは間違いなく生命の木のはるかに遠い枝を垣間見る必要があります. B 生物学は収斂進化の例であふれています。そこでは、同じ形質が完全に異なる系統でいくつかのイベントを進化させます。 コウモリやオンドリの巡航を観察したり、オオコウモリの水晶体の目を確認したりできます 箱クラゲ よろしくお願いします。 本当、ビジョンは 信念動物の生命の歴史的な過去の長さのために 40 のイベント より少なく進化したものを収容する.
箱クラゲの風変わりなレンズテスト。 提供: Dan-E Nilsson 教授、ルンド大学、スウェーデン 翼と目は多様化しており、特定の種類の課題に対処するための自然な好みによって作られています。 感覚には、貴重な適応の特徴もあります。 私たちの感情の強さと私たちの有機的なニーズとの間には、おそらく(十分ではないにしても)優れた一致があるかもしれません. 激しい衝突は極度の神経質に帰着しますが、必要な小さなプロットはかなり悲惨な座席を尊重し、必要に応じてはるかに穏やかな感情をもたらします。 その整合性はどこかからアプローチする必要があり、私たちは、構造とパフォーマンスの間のそのような真の適合を確保できる唯一のプロセスを知っています: 自然な好み. 正確には感覚が私たちにとって、そして私たちの祖先にとってそうであったことは、非常に議論の余地がありますが、自分の有機的なニーズを表現し、秤量することに専念するデザインを持つことがおそらく貴重であるという方法を信じるのは難しいことではありません. 感覚は再び柔軟な動物の形をとることもできます 決定 複雑な環境で、それは再び動物でなければなりません 学ぶ 最も豊かな報酬と最も深刻な危険が待ち受けているセーブについて. 感覚は貴重な目標を助けます。 確かに、現在、タコやカニに相当する動物が感覚を持っていると認識されており、ミツバチの感覚と その他の昆虫、 我々はたまたま回り道をするかもしれない比較する感覚。 眼と翼を尊ぶ知性は、何度も何度も何度も何度も何度も何度も何度も何度も何度も何度も何度も何度も何度も何度も何度も進化したことでしょう.
可能性のある一連の基礎イベントで上部帆を構築します。 2d の証明は、特に無脊椎動物に関しては、非常にちっぽけです。 例として、ヒトデ、ナマコ、 クラゲとヒドラ。 体系的に証拠を求められた人は誰もいないと言ったほうが公平です. さらに、感覚が進化したのは 3 つのイベントだけである可能性もあります。甲殻類および昆虫)、頭足類 (タコを含む) で 1 回、脊椎動物で 1 回。 そして、人間の最終的な基本的な祖先であるミツバチとタコが 5 億 年以上生きた小さなワームのような生き物だった可能性を完全に排除することはできません。以前は、それ自体が感覚を持っていました – そして、この真実の結果として、感覚は地球上で正直に進化しました. 私たちは間違いなく N=1 の陰謀に巻き込まれ、地球外生命体を探している人々を十分に尊重しています。 しかし、それはひょっとすると、知る価値のないものかもしれません。 マーカーに主に徹底的に基づいた完全な方法で、ワームの最終的な根本的な祖先に存在する感覚の方向を指し示す配信を行う場合、感覚と特定の心の間の詳細な関係に依存する現在の理論に反する証拠を含む可能性があります。データを統合するために調整された領域は、人間の大脳皮質を尊重します。 ほとんどの場合、感覚にとって重要であると話されている多くの成分が、実際には不要であると疑う根拠を私たちは含めることができます. 一方、もし感覚がこの惑星でいくつかのイベントが発生した場合、N=1 プロット バックのクラッチから逃れることができます。 これらの条件を比較することで、感覚にとって事実上重要なものとそうでないものについての推論をプロットすることができます。 これにより、習慣的な建築要素を思い描くことができます。 同じ成分を徐々に発見することは、その重要性の証拠である可能性が高く、目の中で何度も何度も何度も何度も何度も進化するレンズを発見することは、視力にとってのそれらの重要性の適切な証拠です. 私たちの目標が共有され、独特で、建築的/計算的な構成要素を獲得することである場合、感覚の完全に異なる条件によって、それらが進化している限り、より多くの条件がより大きくなるすべての方法互いに独立して。 取得できる条件が多ければ多いほど、それらのケースの共通の要素 (もしあれば!) が非常に重要であるという証拠がより強力になる可能性があります。 脊椎動物、頭足類の軟体動物、節足動物の 3 つの条件しかありませんが、共通の成分を発見するすべての方法で、3 つの条件によって、これらの共通の成分がかなりのものである可能性が高いことを (決定的ではありませんが) 証明することができます。 これは、より良い理論のためにテストをデータ化することができます: 感覚のすべての条件に基本的な成分の感覚を形成できる理論 (ビジョンの真のアイデアが持っているように十分です)レンズが非常に重要である理由を私たちに歌ってください)。 これらの将来の理論は、十分な幸運があれば、AI の場合にテストを行う可能性が高いことを示唆しています。 彼らは、おそらくゲームに向いていない深い建築要素を歌ってくれます. Dテクニックには循環性プロットが含まれていますか? 無脊椎動物がタコやカニを知覚するかどうかを議論の余地なく評価することができますか? 巨大な言語のマネキンを評価する場合でも、線虫を評価する場合でも、実際には同じ問題を突き詰めているのではないでしょうか? 可能性はあります。進化した動物と AI の決定的な違いのおかげで、真の循環性プロットはここにはありません。 動物の場合、ゲームに夢中になる動機はないかもしれません。 タコやカニは、人間が生成した練習データを利用して、説得力のある行動を模倣していません。 それらは、人間を尊重するように設計されていません。 実際、ほとんどの場合、私たちは反射イメージ プロットに直面します。私たちとは合理的に異なる動物の感覚のマーカーを確認することは、非常に洗練されたものです。 おそらく、それらを歌うためにかなりの量の科学的比較を気にするかもしれません. しかし、これらの動物が感覚のマーカーの長いさまざまなリストを表示するのをやめると、最も明確な説明は、 彼らはチェックリストを知っていたわけではなく、マーカーの実際の生活を模倣することでターゲットをさらに進めます。 AIの場合の感覚への推論を弱体化させるプロットバックは、動物の場合には発生しません.感覚、おそらくゲームのプロットバックによって破壊されない評価 動物の場合には、十分に存在しない有望な調査ラインがさらにありますAI案件。 例として、でテストできます*)証拠 睡眠パターン、および思考を変えるレメディーの効果。 タコは、イラストとして、寝て ひょっとしたら夢でも、劇的に MDMAを与えられたときの彼らの社会的行動を交換する。 ここに挙げたのは、タコの感覚のほんの一部です。 かなりの重量があることを指摘する必要はありません。 しかし、それはゲームにおける遠回しの方法の結果として、可能性が高いかもしれない深い基本的な成分 (例えば、 夢を見ているときのタコと人間の神経生物学的主張) を想像する可能性が高い方法を開きます。 -AI で 使用する証拠マーカー。これは、ゲームのプロットによって破壊されない可能性があります。 そこを確保するためには、感覚にとって事実上重要なものとその理由についての安定した考えに従って、ゲームに耐えられるマーカーが必要です。 これらのゲームに耐えるマーカーへの最も現実的な道は、動物の認知と行動にもっと比較し、私たちができる限り多くの独立して進化した感覚の状態を歌うことを伴います. 自然現象にとって何が決定的に重要なのかは、完全に異なる多くの条件を比較して初めて理解できます。 したがって、意識の科学は、タコ、ミツバチ、カニの研究の方向で、サルやラットと比較して過去を越えなければなりません。 ヒトデ、線虫まで 現在の数十年間、特定の科学的要素の比較を支援する政府のイニシアチブ (ヒトゲノム プロジェクトや BRAIN イニシアチブなど) は、遺伝学と神経科学のブレークスルーに終わりました。 近年の AI への集中的かつ最も深い投資は、現在の AI 感覚の構築に直面することを余儀なくされているテクノロジーそのものをもたらしました。 これらの現在の問題を 解決する ために、動物の認知と行動を比較するために同じレベルの投資を望みます。サルや類人猿だけでなく、ミツバチやミミズにもラベルを付けることができる次の世代の科学者を言語化する取り組みの更新。 この地球上の動物の心の形についての深い考えがなければ、AI の感覚の構築に関する質問への回答を得ることはほぼ間違いなく失敗する可能性があります.𝚆𝚊𝚝𝚌𝚑 𝙽𝙾𝚆 📺
