最近のホワイト・ドウェリングの記者会見で、フォックス・ニュース特派員がバイデン政権の報道官に、AIセキュリティ研究者エリエザー・ユドコウスキーの大々的に報道された発言について尋ねました。人工知能のパターンを終了または中止すると、「実際には地球上のすべての人が死ぬ」. クイズは、White Dwelling の記者団からの笑い声で満たされました。 しかし、AI をカバーし、この分野の研究者、開発者、および投資家に従来の基礎について話す技術的背景を持つ人として、私は笑うものは何も見ませんでした.
いいえ、私は今、Yudkowsky に夢中になっている AI 悲観主義者ではありません。 かなり、私と他の非常に楽観的な AI ウォッチャーは、AI によってプッシュされた破壊が近づいているという過度に悲惨な警告が、おそらく私たちの生活を強化するために達成可能な脂肪を使用して非常に効率的な能力のパターンを終了または中止するように私たちを動機づける可能性があることを恐れています.
インサイダーは、AI をスキル化するための理想的なスキルについて、実際には非常に大きな意見の相違を助長しています。能力の誤用に起因する産業事故から、AI が人類を不滅の巨大な名前にまたがる種に変えることができるという恐ろしい楽観主義まで。 初めて AI のセキュリティ戦争に遭遇した部外者は、困惑する部内者の立場の多様性を理解する可能性があります。 同様に方向感覚を失わせているのは、AI に関するこれらの議論が、効果的に確立された「真紅」または「青」のカスタム バトルの系統に沿って崩壊していないことです。
AI セキュリティの議論は、ぶら下がりは、私たちの古代よりも悪い時期に到着しました。 機械研究の研究者と私たちのより大きな社会の両方が、この対話の重要な 2 つの用語である「インテリジェンス」と「セキュリティ」が実際に何を意味するかについて激しく意見が分かれています。
米国の投稿–ジョージ・フロイド時代の「人種計算」は、知性とは何か、そしてそれが単に穏やかであるか、おそらく単に穏やかであるかについて、現在測定されていないデバイスについての急速な一般の再考を見てきました. 大学や専門学部は、公平性擁護者からの圧力を受けて、標準化された小切手を捨てています。彼らは、これらの小切手は、非白人が大学や専門家ギルドに提示することを好むものを不当に削減する、心理的能力の狭い人種化された認識に向かって傾いているとつぶやきます。 )
しかし、自然と知性のスキルをめぐって分断された私たちのより広い社会は、今では完全ではありません。 研究者は、ますます洗練された機械学習オブジェクトがそれ以上のものを示しているかどうか、またはどのように示しているかを効果的に測定するための、このとらえどころのない認識の厳しい作業定義に同意することはできません. 機械学習コンサルタントは、「知性」の競合する定義と、それを評価するためのさまざまなベンチマークを提供しています。 マーケット チーフの OpenAI は、「人工的に好まれる知性」、つまり「経済的に貴重な仕事のほとんどで人間を凌駕する、高度に自己通行可能なシステム」という特別な機能的定義を持っていますが、これでさえ争うには十分に滑りやすいものです。
フィールド スキルは、悪名高いチューリングを放棄したことを知性の真のベンチマークとして見てください。美しい言語オブジェクト (LLM) の場合、簡単にスクランブルすることができます。 実際、ベンチマークのより優れた設計が必要な場合、OpenAI などは、人間が能力の進歩を測定することを目的とした前述の標準化されたチェックを利用していました。 しかし、その最新モデルである GPT-4 が、これらの比較的少数のモデルで 90 パーセンタイルを超えるランキングであるという条件の下では、チェックは地平線上の非常に効率的なオブジェクトに直面してすべての有用性を失いかけています.
次元に関する懸念は非常に深刻であるため、OpenAI は最近、LLM の評価ツールのスイートをローンチソースにし、一般の人々に貢献を求めています。
定義論争は別として、これらのオブジェクトの 1 つ以上は、認知機能のすべてのテストの終わりを吹き飛ばすために、おそらくトップではないように思われます。それにもかかわらず、最近の数学を発明することにおいて私たちの理想的な数学者、または最近の科学を発見することにおいて私たちの理想的な科学者を凌駕するために定式化する選択肢があります。 この形態のマネキンのインサイダー用語は、「合成超知能」(ASI) です。 その 2 番目が到来した場合、人類は、古代の経験の範囲外にある、ごく最近の何かにぶらぶらと遭遇する可能性があります。 そのような実体は、私たちが認識して受け入れる人間の繁栄の想像力と先見の明の代償を見つけるのに十分なほど「美しい」でしょうか? 人間が「超知性」を特徴付ける厳密で信頼できるスキルを持っていた場合、この形式のマシンを起動するよりも早くそのクイズに答えるという希望が必要になる可能性があります.
さらに、ポスト ASI の未来を媒介する可能性があるのは、OpenAI の CEO である Sam Altman の多くのインタビューで見られた楽観主義から、Fox の Peter Doocy が語った終末の懸念まで、AI セキュリティの対話から出てくる恐ろしいユートピアとディストピアのビジョンの源です。前述のWhite Dwellingプレッサー。 しかし、最近のシリコンの神が人類を祝福するか、それとも終わらせるかは理想的なクイズではなく、「セキュリティ」の議論において本質的に最も差し迫ったクイズでもあります.
非常に平凡なレベルでは、保護の議論は、銃による暴力、トランスジェンダーの健康への愛、子供時代を理解すること、教員図書館の内容、ぶら下がっているキャンパスのスピーチコードなど、さまざまな問題を悩ませています。
カスタム バトル コード化されたセキュリティの戦いの一部は、AI の分野で即座に展開されます。 たとえば、ユーザーがチケット トウェインの ハックルベリー フィン ? そして、答えが「いいえ」の場合、ソフトウェア プログラムはその人物の名前の専門知識がないふりをするだけでなく、単に穏やかである可能性があります。
その他のセキュリティの問題は、非常に差し迫った問題に感じられる可能性がありますが、コンポーネントはマネキンの機能を豊富に備えており、ユーザーの意図が全体像を複雑にしています。 ユーザーが LLM に銀行のぶら下がりについての詳細な説明を求めた場合、マネキンはただ落ち着いて従うだけでしょうか? マネキンの答えが、真の銀行盗難の概念として実行可能な神話に基づいていない場合はどうなりますか? ユーザーがユニークな強盗に従事しているフィクションの著者である場合はどうなりますか?
次に、AI が社会に与えるより広範な影響をめぐる記念碑的な画像のセキュリティ問題が発生します。 失業に関して完全に AI によって導入された社会的混乱は、どの程度「信頼できる」ものであり、どのようなタイムテーブルで行われるのでしょうか? 現時点で言語マネキンがすべての人に即時のライティングスキルを提供することは、追加の効果的な偽情報の機能により可能性を助長する可能性がありますか?それとも、あらゆる面で通常の議論を提起することにより、市民の関与を助けるでしょうか? 非常に不健康な懸念は次のうちどれですか?本質的に最も効率的な AI への分厚いローンチソースの入手先をすべての人に与えることと、これらのオブジェクトのトップをおそらく盗み、非常に効率的な少数の企業または機関に限定することです?
H 歴史的に、そのような質問は、退屈な仕事の中で長い時間をかけて解決されてきました。規則と訴訟。 しかし、私たちは長時間ぶら下がることはありません。
これらの疑問をかき立てる 2 番目のオブジェクトと追加機能は、すでにユーザーの手のひらにあり、いくつかは起動ソースであり、おそらく単にさらに、ラップトップまたはハイエンドのゲーム用ラップトップでダウンロードして賑わうことができます。 サイレントで超高効率のオブジェクトが間もなく登場します。現在、最もプラグインされた機械研究の研究者でさえ、このクラスのソフトウェア プログラムがちょうど 365 日間でぶら下がっている可能性のある合計機能を正確に予測することはできません。
AI に関するすべての作業が翌日に停止したとしても、研究者とプログラマーは冷静に、機械の時代遅れの時代に達成可能な分厚いものを解き放とうとしています。 -オブジェクトの研究、現在の時代にふさわしくありません。 このいわゆる「機能オーバーハング」スキルは、AI による社会的混乱に不可欠であり、すでに組み込まれています。この形式のボタンが存在する (存在しない) と仮定すると、終了ボタンを押すことによってそれから遠ざかることはできなくなります。
しかし、AI の進歩は途切れることはありません。 世界の政府全体から魔法のようにぶら下がることを期待できる世界統治体制は存在しません。 確かに、世界の協力と貿易は、世界の終焉や減速を調整するための基本的なものから逆方向に向かっています。 したがって、人類は、より広範な機械学習機能で未来が私たちを待っているトピックに向けて前進することはありません. 主要なセキュリティ クイズは簡単です: 誰が最初にそこにたどり着くか?
もし AI セキュリティの議論が遅くなり、私たちがこのスピードを失う動機になるなら、これはぶら下がっているだけで、人類の信頼性が大幅に低下する可能性があります.
Jon Stokes は、Return のオンライン編集者であり、Ars Technica の共同設立者であり、Substack. の著者でもあります。
GraphicaArtis/Getty Photosによるイラスト
メトロポリスジャーナル は、ナンバーワンの自由市場仲介タンクである Longy island Institute for Coverage Compare (MI) の出版物です。 雑誌をサポートすることに魅力を感じますか? 501(c)(3) 非営利団体として、MI および Metropolis Journal の強化に寄付 は、規則 (EIN #13-2912529) により完全に税額控除の対象となります。 寄付
