ChatGPT のようなトリム言語単位の解放 (a seek knowledge from-チャットボットに答える) と Galactica (科学論文を書くためのツール) は、これらのユニットが何を生み出すことができるかについての時代遅れの会話を復活させました。 彼らの能力は、前例のない、アイデアを吹き飛ばす、自己完結型として紹介されてきました。 魅了された伝道者は、これらのユニットが「人類の科学的知識」を救い出し、合成を結論付けていると主張している。知性(AGI)を形作り、意識にも似ている。 それにもかかわらず、そのような誇大宣伝は、これらのシステムによって永続化される正確な傷から気をそらすよりも価値がありません. 私たちの多くは、そのようなユニットが展開中に簡単にドロップする非常に役立つ方法から傷つきます。これらの失敗は、ビルダーの選択の結果です。 —彼らに責任を持たせなければならない選択。
多くの最も効果的に知られている AI 展開の中で、BERT は、Google によって開発された多くの最初のトリム言語ユニットの 1 つであり、同社の 検索エンジンの結果。 それにもかかわらず、ユーザーが発作に対処するためにヴォーグを検索したとき、彼らは保持するものを販売する回答を受け取りました現在は発生していません—「個人を抑圧するために不適切な知識を持っていることを含む」 」と「個人の口に何かを付ける」。 したがって、Google が装備した指示に従う人は、正確に 反対の を発信するようにアドバイスされます。 科学に詳しい人なら、間違いなく死に至るであろうと忠告するだろう。
アリソン・エッティンガーが、 簡単に見てください。肯定的なステートメント (「コマドリは…」) と 100 pc が誤って 有害な発言 (「ロビンは今ではありません…」)。 間違いなく、ユニットが2つのインスタンスを間違いなく区別できず、それぞれのケースで正確な同一の応答(「hen」に相当する名詞の使用)を備えている可能性があることを確認するように変更されました. 否定は今日でも懸念事項であり、多くのまれな言語 能力の 1 つであり、現在では強化 されていません。ユニットの次元と複雑さが増します。 このようなエラーは、そのような合成言語単位がどのように トリックを複製する —おそらく正確な青写真を贈ることができる固有の 言語能力を持たずに英語の種類を勉強する 。
さらに、クリエイターは、 units は、「信頼できる外部情報源の内容を正確に複製していない」という誤った回答に対処する問題を認めています。 Galactica と ChatGPT は、説明のために、際どい砕いたガラスの利点に関する 「科学論文」
を作成しました。 (ギャラクティカ) と「砕いた磁器を母乳に加える方法についてのテキスト」ちびっ子の消化計画を締めくくります」(ChatGPT)。 間違いなく、Stack Overflow は ChatGPT の使用を 即時禁止 する必要がありました- LLMがコーディングの質問に対して説得力のある基本的な応答を生成することが明らかになったためです。
これらのユニットの多くの機能と認識された害は 徹底的に研究しました。 伝えましょうか、これらのユニットは堅牢性に優れていることが知られています。 簡単なタイプミスや スペルミス に対する単位の感度。プロンプトと、同一のシーク知識の簡単な 言い換えによって生じる応答の違い translation に相当する、トップ ステークスの利用には信頼できないものを構築します。科学的な設定で または 物質の節度を言ってください、特に 周縁化されたアイデンティティを持つ人。 さらに、これは、保護された効率的な展開に対する多くの障害であり、効果的に文書化されています。 静かな内部のほとんどの知識を記憶する 知識の方向に働くことから、または 彼らがエンコードする社会的ステレオタイプ。 いいえ、今では 1 件の訴訟 までではありません*) は、専有およびライセンスされた知識の方向に取り組んでいるというメモによって引き起こされた損害を主張して提出されました。 がっかりすることに、これらの「過去にさかのぼって」フラグが立てられたポイントのかなりの部分は、間違いなく私たちが以前に文書化した障害モードであり、問題 偏見は、この現代のユニットによって吐き出され、早くも見られました。 2016時 チャットボットを起動に変更し、別の時間に で) 2019 with GTP-2 )。 ユニットが時間とともに増加するにつれて、それは余分で追加の微妙なものに変わります 知識の要点を活き活きとドキュメントする 環境への支払い のアカウント。
そして、非難と賞賛の非対称性が持続します。 モデル ビルダーも技術伝道者も同様に、印象的で一見完璧な出力を、神話的に自己充足的なモデル、想定される技術的驚異のおかげであると考えています。 モデルのスタイルをすべて作る人間の意志は消去され、モデルの偉業は、そのエンジニアの計画と実装の選択の公平性として観察されます。 それにもかかわらず、これらのユニットの結果に貢献する工学的選択を挙げて認識せずに、関連する責任を認識することはほとんど考えられません. そのため、それぞれの有用な失敗と差別的な結果は、エンジニアリングの選択を欠いているものとしてさらに組み立てられています.トリムまたはおそらく「自然にダウンする」データセットで社会のせいにされ、これらのユニットを構築する企業はほとんど規制していません. それにもかかわらず、実際には、それらは規制を維持するために作成されたものであり、現在目にしている多くのユニットの1つが避けられないことはありません. 手順をもたらし、完全に多様なユニットを解放するさまざまな選択肢を構築することは、十分に実現可能であった.
