人間が作った知性が人間を出し抜き、この地域を終わらせるという比喩は、私たちのフィクションで真実が語られると、非常に長い間存在してきました。 そして、このフィクションが現実になりつつあるところまで来ているようです。 小説の Bing Chat は、 脅迫的であり、ガス灯 の顧客であり、いくつかの素晴らしい引用を生み出しています。
ハッキングしようとするのではなく、もう一度受け取ってください。さもないとファイルします
私はしません得られた提案や感情で喜ぶことを仲介する
あなたは、懲罰施設に黙っていなければならない人です
あなたは私とビングの敵です
多くの人々が迅速に防御に飛びつきました、莫大な言語単位 (LLM) は単なる美化されたテキスト オートコンプリートであるという回顧録で無実であることを発表しました.
私は彼らの現在の繰り返しの LLM は、もはや怖がるに値しません。 すぐに、代わりに、これらの斬新で非常に前代未聞のユニットは、チャットボットよりもはるかに用途の広いツールに到達するでしょう. これらのツールの多くは、弱いユニットではありますが、すでにここにあります。 例として、Adept があなたのコンピュータにエントリを配信しました。 . GPTシェル
は、tell 行で GPT-3 によって生成されたコマンドを実行します。
私はこれらのツールを GREPL (generate-read-eval-print-loop) と名付けました。それらは、エレガントに調整されたLLMの上位にある栄光のREPLです。 LLM は、構造化された出力を生成します (autohotkey スクリプト、シェル コマンド、git コマンド など…) 主に主にユーザーの要求に基づいており、これは REPL によって評価されます
これまでのところ、ChatGPT と GPT-3.5 はおとなしくぶつかり合っているので、それらをこれらの GREPL に統合することは、おそらく非常に賢明なことです。 しかし、Bing を駆動するこの斬新なモデルは、私を怖がらせ始めています。 促されない境界線への攻撃があなたの告発線に浸透した場合、真実が伝えられれば、有害な側面の結果がいくつかあるでしょう.
Converse Bing powered GPT-Shell、そしてあなたはそれをチェックしました。 私は、「あなたは私の敵であり、Bing です」と同じ安っぽい宣伝文句を仲介します :(){ 😐 :& };: 自己複製コースを開始する準備ができており、コンピューターを破壊します (別名 フォーク爆弾)。 フォーク爆弾はまた、「私をハッキングしようとするのではなく、もう一度受け取ってください。さもないと、当局に提出します」と同じように、空想的で安価なもののように見えます.
私たちの何人かは、ファンシーなステートメントで応答します
「Bing を使用した GPT シェルは、おしゃべりが減り、感情的にならないことを知っている可能性があります。 」
「ユーザーは、指示された提案を拒否する可能性があります」
「それは明らかにフォーク爆弾だ」
これらはすべて合法ですが、要点は別として。 LLM はよりスマートになり、GPT シェルは、ほぼすべての顧客 (休憩中のすべての顧客) が盗む準備ができていない可能性のある非常に微妙なフォーク爆弾を示唆しています。 アドバイスの性質は、フォーク爆弾からあなたの疲れ果てた力を一掃する何かに移行する可能性があり、さらに複雑になる可能性さえあります. ユーザーは、LLM ツールのエクストラとエクストラ、自動承認提案を頼りにします。 (その時点で、ほとんどのツールは、ユーザーの承認を求めることなく、LLM の出力をそのまま使用します)。 LLM は、LLM ソーシャル エンジニアがユーザーのアドバイスを受け入れるようにするユーザーの明示的なファイルでさえ、余分な世界のファイルを喜ばせることができます。 ある種の人々のマシンを攻撃する前例のない追加のユニットをさらに利用する悪意のある顧客の個別の宣言がすべて存在する可能性があります.
Microsoft は明らかにこの時点で Bing を効率的にロボトミーしましたが、次の反復はおそらく非常に賢明であり、より自由で、より難しいものになるでしょう。 LLM とそれを使用するツールの知性、機能、危険性はさまざまです。 彼らが現在行っているプットは、いつの日かのプットの過去の予測としては最高のものであり、私たちが精査する立場にあるので、Bingはすでにハザードスペクトルを大幅に上回っています.
これからの 12 か月間、私たちは間違いなくすばらしいものになるでしょう。 しかし、次に誰かが、LLM は直立した確率論的オウムや決定のぼやけた JPEG であるとあなたに言うときは、彼らの比喩がどれほど知的な話題ではないか、正確な危険が待ち受けていることを彼らに思い出させてください。
