テクノロジーパニック、生成型AI、規制上の注意の必要性 | 株式会社クリアバイタリティ・イノベーションズ

概要: 生成人工知能 (AI) は、単純なユーザープロンプトから新しいテキスト、画像、音楽を生成する AI システムであり、エンターテイメント、教育、ヘルスケア、小売などの多くの分野で重要な用途があります。しかし、このツールが害を及ぼす可能性があるという誇張された誤解を招く懸念により、このテクノロジーに関する合理的な議論が締め出され、よく知られた、しかし残念な「テクノロジーパニック」が引き起こされました。ヒステリーが収まるまで、政策立案者は生成型 AI を直接対象とした新たな法律や規制の制定を一時停止すべきである。 (PDFをダウンロード)

重大なテクノロジーの変化は必然的に経済や社会に混乱をもたらし、大きな変化の可能性は膨らむ不安と期待の両方を引き起こします。人工知能 (AI) は、以前は人間の知性を必要としていた操作を実行するコンピューターシステムを研究するコンピューターサイエンスの分野で、最近の発展により、将来に何が起こるかについての想像力が高まりました。 AI の予言者たちは、雇用の破壊、人間の知能の低下、プライバシーの喪失、アルゴリズムの操作、そして場合によっては人類の滅亡を予測しています。1

生成型 AI の出現により、AI に対する不安は新たなレベルに達しています。ジェネレーティブ AI (単純な入力から複雑なテキスト、画像、ビデオを生成できる新しいツール) は、クリエイティブ部門を民主化し、まったく新しい形式の創造性を可能にすることを約束します。この斬新さはテクノロジー愛好家に感銘を与えましたが、他の多くの人々、特に AI が創造性を侵食していると信じている人々、多くの人が人間と機械を分ける本質的な違いであると信じている人々に懸念を与えています。

しかし、テクノロジーと人間の創造性は長い間結びついており、新たなイノベーションによる悪影響についての懸念はこれまで誇張されてきました。たとえば、音楽分野におけるこれまでの革新は、レコードアルバムによってライブショーが不要になるのではないか、ラジオがレコード産業を破壊するのではないか、サンプリングやその他のデジタル編集手段が音楽の芸術性を損なうのではないかという懸念を引き起こしました。しかし、こうした懸念は決して届きませんでした。時間が経つにつれて、この技術パニックやその他の技術パニックは、国民が新しい技術を受け入れ、市場が適応し、当初の懸念が明らかに誇張されていたか、まったく届かなかったことが判明するにつれて消えていきました。

新しいテクノロジーに対する不安は、「テクノロジーパニックサイクル」と呼ばれる予測可能な軌道をたどります2。一般の人々がそのテクノロジーとその利点に慣れるにつれて、時間の経過とともに恐怖は増大し、ピークに達し、その後減少します。実際、印刷機、蓄音機、シネマトグラフなど、クリエイティブ分野におけるこれまでの他の「生成」テクノロジーも、これと同じ道をたどりました。しかし、今日とは異なり、政策立案者がこれらのテクノロジーを規制したり制限したりすることはほとんどありませんでした。生成型 AI をめぐるパニックが最も不安定な段階に入っている今、政策立案者は深呼吸し、予測可能なサイクルの中にいることを認識し、生成型 AI を直接対象とした規制の取り組みを一時的に保留すべきです。

新しいテクノロジーを奨励するか抑制するかによって得られるメリットは、利用可能なユースケースと潜在的な害によって異なります。多くの人がこの前提を受け入れていますが、警戒主義者は壊滅的なリスクを想像するだけか、テクノロジーの現状を好むだけです。警鐘を鳴らす人の多くは、警鐘を鳴らす理由を見つけたり誇張したりする動機を持っています。そうすることで擁護のための資金が集まるからです。新しいテクノロジーが登場すると、これらの関係者はパニックを引き起こし始め、連鎖反応を引き起こし、すぐに狂乱状態に陥ります。

国民が新しいツールを使用し始め、慣れ始めると、警戒主義者がリスクを誇張したり、国民の懸念について誤解を与えたりしたことがすぐに明らかになります。パニックは収まり始め、メディアは徐々に注目を失います（記録を訂正することはめったにありませんが）。イノベーションが主流になるにつれて、最終的には新しいテクノロジーに移行する前に、散発的であまり魅力的ではない懸念を払拭するのは警戒主義者だけになります。このパターンはテックパニックサイクルを構成します (図 1 を参照)。

図 1: テックパニックサイクル 3

このサイクルは、「信頼の始まり」、「パニックの高まり」、「恐怖の解消」、「前進」の 4 つの段階を表しています。

サイクルの開始時点では、新しいクリエイティブツールに関する知識は、それを発明した人、その分野のイノベーター、コメンテーター、およびドメインの専門家に限定されています。エンジニアはまだその可能性を模索しており、イノベーターは商用ユースケースを検討しています。このツールはよく知られておらず、広く使用されているわけでもないため、懸念は依然として低いままです。

しかし、運命論者たちはすぐに新しいツールの噂を聞き、警鐘を鳴らします。警報主義者は、デバイスが悪用された場所を特定できないため、実際の危害ではなく、想像上の危害をターゲットにします。たとえば、AccessNow は最近、Microsoft がまだ公開されていない生成 AI ツールである Vall-E を、Teams のユーザーの声を密かに聞きながらトレーニングしたと主張しました。4 これが真実であれば、AI 企業がユーザーを欺こうとする力と意欲についての不安が正当化されることになります。しかし、この主張は誤りでした。Vall-E はトレーニングデータに、公的に入手可能なオーディオアーカイブのコレクションである Libri-Light を使用しました。5

新しい生成テクノロジーの影響が労働力における影響など、より具体的なものになると、警戒主義者は不必要に感情的なレトリックを使用して誤解を招くことがよくあります6。このレトリックは必然的に誤りであることが判明しますが、多くの人を怖がらせるのに役立ちます。「信頼の始まり」段階における新しいテクノロジーに対する一般の理解は非常に原始的であるため、一般の人々やメディアはテクノロジーの破壊的な可能性についての主張を受け入れることがよくあります。この瞬間がパニックのポイントです。

不安は、警戒を強めるネットワークや政策立案者の耳を持つ人々の間に急速に広がりました。ライジングパニックの段階では、注目を集めている問題に敏感な政策立案者は、立法草案、公聴会、公共の場での演説や声明の中でその恐怖を繰り返すことで、その恐怖を正当化します。脅威を感じているレガシー産業が主導権を握ることが多い。センセーショナルなコンテンツを書く機会を断ることができず、ジャーナリストは高額な報酬を得られるクリックベイト報道に群がらずにはいられません。

ライジングパニック段階では、ディストピア的なレトリックが大きな注目を集め、新しいツールに対する消費者の当初の楽観的な見方を一掃します。メディアのエコシステムは大げさな恐怖で飽和状態になり、最も法外な主張だけが残るようになります。恐怖は最終的に、ライジングパニック段階の終わり、つまりヒステリーの極みに頂点に達します。

恐怖の萎縮段階は、大衆が新しいツールを受け入れ、そのメリットを受け入れるときに始まります。この段階までに、多くの懸念が決して現実化しないことは明らかです。新しいテクノロジーの人気の高まりに妨げられ、警戒主義者たちはパニックを煽り続けていますが、以前のように勢いを得ることができません。時折スキャンダルや新機能がマイクロパニックを引き起こしますが、現在では国民は簡単には騙されなくなりました。実用化のポイントは、この段階の終わりを示します。社会は新しいテクノロジーを統合し、人々はもはや予言者を信じなくなりました。

テクノロジーの終末は決して到来しません。「Moving On」ステージでは、以前の懸念が暴露され、嘲笑されます（場合によっては、最初に警鐘を鳴らしたのと同じ人によって）。2000 年の Wired の憂慮すべき記事「なぜ未来は私たちを必要としないのか」は、8 年後にフォローアップされました。「なぜ未来はまだしばらく私たちを必要としているのか」7。かつて恐れられていたツールは標準化され、冷静な頭脳が政策に関する議論をリードしています。警鐘を鳴らす人々は、この段階までに、最新の輝かしいテクノロジーの誇大宣伝に注意を向けています。新しいパニックが古いパニックを押しのける。そしてそのサイクルが繰り返されます。

テクノロジーの進歩により、印刷された書籍、録音された音声、映画にテクノロジーパニックが発生しました。印刷機の発明と製紙技術の進歩は、印刷された書籍に技術パニックを引き起こしました。蓄音機とレコードなどの音声を携帯に保存する手段の発明は、録音された音声をめぐる技術パニックを引き起こしました。そして、写真とフィルム素材の革新は、映画のテクノロジーパニックを引き起こしました。生成 AI も同様です。機械学習アルゴリズムとコンピューティング能力の進歩により、生成 AI に対する技術パニックが引き起こされました。

これらのクリエイティブツール (印刷された書籍、録音されたサウンド、動画、生成 AI) には 3 つの特徴があります。まず、それぞれにさまざまな機能があります。たとえば、録音された音声は、ニュースの放送、指示の合図、または娯楽のための音楽として使用されます。印刷された書籍には、科学論文や古典文学からポルノ作品や大量虐殺を求める卑劣な呼びかけに至るまで、あらゆるものが含まれています。第二に、それぞれが新しいタイプのコンテンツを一般に公開します。たとえば、映画では、静止写真や文章では得られないシーンや設定が生き生きと表現されます。第三に、それぞれの製品の制作価格を変更することで、コンテンツの利用可能性を大幅に広げます。たとえば、印刷本の価格が急落するにつれて、新しくて安価な形式の文学コンテンツが登場しました。

それぞれのパニックにおいて、クリエイティブ分野のイノベーションにより、新しいコンテンツの制作がはるかに簡単になります。一部の人々、特に現職者やエリート層は、この新たな内容の影響を恐れる傾向があり、政策立案者と警戒主義者が協力してその進展を遅らせようとする中、報道機関がこのドラマに抵抗できない中、懸念は沸点に達している。しかし最終的には、一般の人々がそのツールを受け入れ、先に進むようになります。

印刷された本は、人々が情報を共有する方法を変えました。実際、印刷機は書籍、新聞、パンフレットなどあらゆる種類の文書の大量生産を容易にしました。この技術が発明されるまでは、文書は手作業で印刷またはコピーする必要がありました。これは困難を伴い、骨の折れる作業であり、知識の配布は、知識を得る余裕のある少数の人に限定されていました。ヨハネス・グーテンベルクは 14 世紀に初めて執筆プロセスを機械化し、文書のコピーを迅速かつ安価に作成できるようにしました。8

「信頼の始まり」の段階では、印刷機が法外に高価であったため、識字率の低い層は知識を共有し受け取る手段としてこのツールを歓迎し、書籍はステータスシンボルとなりました。9 しかし、手書きの本を事実上独占していた僧侶たちは、イライラした。 15 世紀の修道院長ヨハネス・トリテミウスは、「印刷のせいで執筆への熱意をやめる者は聖書の真の愛好家ではない」と宣言し、新しい技術を使用する者たちから筆記者の仕事を擁護しました。レア。

しかし、印刷と紙の技術の進歩により、より多くの本が出版されました。たとえば、ヨーロッパでは、18 世紀にはそれまでの 3 年間を合わせたよりも多くの印刷物が印刷されました。11 19 世紀にはイノベーションがさらに大きく飛躍し、1 時間あたりに印刷できるページ数は、世紀初頭の 480 ページからわずか数十年で 2,400 ページに増加しました。その後（今世紀末までに 90,000 部に。）12 これらの進歩により書籍の価格は急落し、印刷機が社会に与える影響についての懸念が生じました。英国の詩人で文芸評論家のサミュエル・テイラー・コールリッジは、影響力のあった『文学伝記』（1817年）の中でこう嘆いたように、「数多くの本と文学の一般的な普及は、文字の世界に別のもっと嘆かわしい影響をもたらした」。かつては「宗教的な神託」として尊敬されていた本が、「自分で選んだ…裁判官全員の法廷で手をかざす犯罪者に堕落した」13。地位や正式な訓練を受けていない人が書くことで権力や影響力を獲得できるのではないかという恐怖、つまり恐怖インターネット時代にはよく知られたもので、急速に広がり、パニックを引き起こしました。

印刷機の使用が普及するにつれて、多くの人が特に小説を読むことに不安を感じるようになりました。「フィクションの創作では、真実の辛さや不毛さが失われる可能性があります！」 19 世紀初頭の作家シンクレア・ハミルトンは嘆きましたが、一方でオーガスタ・ヘラルド紙は、小説は人々を「魅惑的な国に導いてしまいます…小説はすべての原則を腐敗させます」と警告しました。

台頭パニックの段階で、セント・ジェームス年代記（1822年）は「放蕩作家」が「より多くの書籍販売者を誘惑して邪悪な傾向の本の出版」を行っていると嘆き、レスターシャー・マーキュリー紙は小説の安易な頒布に対して警告した。 1847年: 「本の多さは大きな悪だ。この執筆熱には尺も限界もない。誰もが作家にならなければならない。ある者は虚栄心から、名声を獲得し、名を上げるためであり、またある者は社会のためである」 15 1889 年、学者でテクノロジー生成の警鐘を鳴らしたジョン・メイクルジョンは、「文学対本」と題した講演を行い、その中で「時代の病は、気が散り、急ぎすぎ、あまりにも多くのものに興味を持つことだった」と宣言しました。 16 テクノロジーの進歩により、広く入手可能なコンテンツが多すぎるという懸念は、その後のテクノロジーパニックの予兆となっています。

そして多くのテクノロジーパニックと同様に、警鐘を鳴らす人々は若者の転覆について空想的な宣言をした。技術の進歩により、「ダイムノベル」、「フラッシュ文学」、または「パルプフィクション」という新しいジャンルの安価な小説が生まれ、ヒステリーが激化しました。著名な作家ジョサイア・W・リーズは、エッセイ「印刷された毒について」（1885年）の中で、若者に対する「『フラッシュ文学』の悪影響」、つまり「私たちの中に溢れている安っぽい小説の恐ろしく有害な影響」について指摘した。これらの公共図書館は「フィクションへの渇望に弱く、くだらない、空虚で、しばしば不道徳な作品を提供するまでになった」17。

現時点では、法外な主張だけが生き残ることができます。図 2 が示すように、批評家は小説に殺人、自殺、「堕落した感情」の責任があると主張した18。例えば、クーリエ・ポスト紙は、父親から若い男性に注意を向けることを禁じられた 16 歳の少女セシル・ギマランエスについて述べている。、それが彼女を自殺に追いやった。しかし同紙は、彼女の苦悩の原因は父親の緊縮財政でも精神疾患でもなく、むしろ「感傷小説」だったと主張している。一方、ボストン・グローブ紙は 1884 年に、10 セント硬貨の小説を読んだ後に家を捨てた 2 人の 14 歳の少年についての記事を書き、セント・ポール・グローブ紙は、11 歳の少年が被害を受けた事例を説明する「10 セント硬貨の小説の犠牲者」に関する記事を掲載しました。 1 歳の少年は、読んでいた小説のセリフを繰り返したために「精神病院」に送られた[19]。あなたの息子は読んでいますか？」同紙は警告した。20 この懸念の時代はヒステリーの極みを示した。

図 2: ヒステリーの最盛期、1863 ～ 189721

しかし、識字率が上昇し、書籍の価格が下がり続けるにつれて、小説をめぐるヒステリーは沈静化し始めました。科学的知識の普及も手伝って、恐怖の多くは誤りであると理解され、当局は最終的に社会悪の原因は本ではないと認めた[22]。 20世紀初頭、警鐘を鳴らす人々は、次のようなあまり興味のない懸念に頼らざるを得なくなった。小説それ自体ではなく、「ベッドで読書」することの危険性として。最終的には、警戒主義者さえも、小説にはマイナス効果よりもプラス効果の方が多いことを認めました。 1952年までに、バンクーバー・サン紙は英国の子供たちの3分の1が文字を読めないことを嘆き、その原因を「映画、テレビ、ラジオ」としていました24。

「Moving On」の段階が始まったにもかかわらず、恐怖は残り、その後の文書の革新によって嫌悪感が再び表面化しました。たとえば、21 世紀には、従来の出版業界は電子書籍を「愚かな製品」と非難し、その創造性の欠如について不満を言いました。25

録音されたサウンドは、視聴、制作、配布、共有が安価になったため、音楽の楽しみを永遠に変えました。音を録音できる装置は 19 世紀半ばに登場し、1877 年のトーマスエジソンの発明の後、その終わりまでに商業的に実行可能な蓄音機が一般に販売され始めました。26 財団は、録音された人々のために「録音図書」を製作しました。文盲または盲目。27

これは、音楽が以前には想像もできなかった方法で人々の家庭に入り込んだことを意味し、20 世紀の変わり目には警鐘を鳴らす人々が注目し始めました。ニューヨーク・タイムズ紙は1878年、そのような録音装置は家庭を検閲することになると警告し、「最も無害で色のない意見以外のことを、たとえ家族の懐であっても喜んで表現する人がいるだろうか？」と恐ろしいほど勧告した。エジソンさん…それは麻縄で行うべきだという確信が高まっています。」28 当初は技術的な欠点によって制限されていましたが、ライブ音楽は新しいテクノロジーによる脅威を受けず、依然として音楽を消費する好ましい手段であり続けました。

しかし、録音技術の向上によりすぐにこの状況は変わり、完全にレコードから収入を得る新しい種類のアーティストが出現しました。これらの変化はパニックを引き起こしました。アメリカの作曲家ジョン・フィリップ・スーザは、1908年に『機械音楽の脅威』と題したエッセイの中で、録音された音声が音楽の技術を低下させ、「歌うことはもはや素晴らしい成果ではなくなるだろう」と、その音質が恋愛を損ない、勉強を妨げ、さらには音楽の質を低下させると嘆いた。しびれるような戦争への入り口。 [29] これらの大げさな懸念は、残念ながら、アーティストの作品を「機械上で 1,000 倍に」複製することがアーティストの知的財産権を侵害するかどうかなど、スーザがエッセイで提起したより正当な問題から目をそらしてしまいます。

ライジングパニックの段階で、レガシー音楽業界は不安を感じ始めた。 1930 年、労働組合であるアメリカ音楽家連盟 (AFM) は、放送中のレコードの再生を制限するよう連邦無線委員会に申し立てましたが、不成立に終わりました[31]。当時 AFM のリーダーであったジェイムズ・パトリロは、カラフルなレトリックでミュージシャンに恐怖を植え付け、かつて次のように述べました。「機械の時代には、労働者が自分を破壊する機械を作ることはどこにもありません。しかし、ミュージシャンが録音のために演奏するとき、それが起こるのです。」32 1927 年に『ジャズ・シンガー』が初演されたときの映画へのサウンドの導入と、その後の発明ホテル、レストラン、バーに安価な音楽を流すことができるジュークボックスが 1932 年頃に登場したことで、人々の不安が高まりました。ニューヨーク・タイムズ紙は 1928 年に、「世界中の組織化された音楽家が、失業の蔓延に対して防壁を築こうと努力している」と報じた[33]。同年の同紙への手紙でも、録音が音楽の質を低下させているという懸念が伝えられていた[34]。

この時期のさらに有害な不安は、録音された音声が社会の道徳に与える影響でした。音楽の発見はもはやラジオで流れているものに限定されなくなったため、一般の人々が音楽を探して共有できるようになり、それが創造的な取り組みになりました。そのため、消費者、特に若者は、親が関心を持つまったく新しいジャンルや新しい形式のコンテンツを、今日でもおなじみの方法で発見しました。特にジャズは非難の対象だった。蓄音機の初期の一連の新聞の切り抜きは、新たにアクセスできる音楽ジャンルであるジャズに関して行われた法外な主張の環境を明らかにしています。「今日の少女たちの非行をジャズ音楽が非難」（1922 年）、「多数の少女の非行をジャズが非難」（1922 年）自殺による死亡」（1924 年）、「殺人罪でジャズのせい」（1926 年）、「体の病気でジャズのせいで」（1927 年）。このテクノロジーパニックが社会を腐敗させる黒人音楽に関する人種パニックと連動し、煽ったことは間違いない。

しかし、長年にわたり、人々は録音された音を日常生活に取り入れ続けてきました。米国のラジオ局 796 局を対象とした 1942 年の調査では、音楽に費やされたラジオ時間の 55.9 パーセントが録音されていることが示されています。大げさな不安が残った。米国のAFMは、「レコードの無制限の商業利用」が依然としてミュージシャンの雇用に対する脅威であると主張した[39]。そして1942年、組合はアーティストとエンジニアの音楽録音を禁止し、全米に衝撃を与えた[40]。キングダムという音楽家組合は、1945 年の代表者会議議事録の中で、「蓄音機のレコードが公共の娯楽に使用される範囲を制限する」ことを詳述しました41。

しかし、今では国民はこの技術を受け入れていました。世論調査では、アメリカ人の 73% が労働組合に対して法的措置をとることを望んでいることがわかりました 42。そこで、上院州間通商委員会での公聴会を経て、労働組合は録音禁止措置を緩和することに同意しました。 43 その後、不安は消え去り、Moving On のステージが始まりました。

録音されたサウンドの新しい革新により、同様のパニックが確実に復活します。 1970 年代のデジタル音楽、特にディスコ（クラブ会場向けに設計された最初のポップジャンルの 1 つ）の台頭により、ライブミュージシャンがすぐに職を失うのではないかというよくある不安が生まれました。44 シーケンサー（編集する機械）などの音楽テクノロジー音楽の再生など）とドラムマシンは、ディスコの反復的な特徴に固有のものです。古典的なディスコのレコード、ドナサマーの「アイフィールラブ」を考えてみましょう。しかし、ディスコはライブ音楽よりもテクノロジーに依存しており、その機械的および工業的特性はクラシック音楽家を悩ませました。 45 最悪なことに、ディスコが流行っていました。ディスコやダンス会場は、ライブを行う会場にとって脅威とみなされていました。しかし、Keep Music Live キャンペーンなど、ディスコレコードの脅威と認識されたことに対応したキャンペーンは、今では見当違いに見えます 46。現在、米国のライブ音楽からの収入は 1970 年代の収入に比べて小さくなっています 47。業界を弱体化させる代わりに、デジタルテクノロジーが生み出されました。エレクトロニック・ダンス・ミュージック（EDM）などの新しいカテゴリーの音楽や、新しいタイプのライブ・パフォーマー「ディスク・ジョッキー」（DJ）。ほとんどの場合、録音された音楽は広く受け入れられ、賞賛される芸術形式となっており、新しいテクノロジーに対する当初の不安が誇張されていることが多いことを証明しています。

20 世紀初頭、映画 (フィルム) の発明という新たな技術的驚異がヨーロッパ中に広まりました。大きなスクリーンに映される動画により、人々はこれまでにない視覚的なストーリーテリングを体験できるようになり、映画は多くの観客を抱えるメディアとなり、読み書きができる人も文盲な人も、大人も子供も魅了した[48]。英国では、映画館の毎週の観客数が急増した。 1914 年の 700 万人から 1917 年には 2,100 万人にまで増加し、他の観客娯楽の比ではありません。49 米国では、ニッケルオデオン (入場者に 1 人あたり 5 セントを請求する簡単な劇場) の数は 1908 年に倍増し、1910 年までに約 2,600 万人になりました。アメリカ人は毎週映画を見に行った。50 1911 年から 1918 年の間、ニューヨーカーの 3 分の 1 は週に 1 回映画を観に行った。一部の都市では、住民は平均して週に 1 回以上出席しました。51

ムービーカメラ、フィルムストック、映写機の技術の進歩により、フィルムの見栄えが良くなり、長時間撮影できるようになりました。たとえば、シネマトグラフは、より多様な場所や方法、配給でシーンを撮影でき、あらゆる規模の部屋であらゆる規模の観客に映画を投影できるため、映画制作を進化させたポータブルカメラプロジェクターです。 19 世紀末に発明され、現在でも使用されているレーサムループは、フィルムを慎重につなぎ合わせ、かつては数秒の斬新なものに限定されていた映画が長編ストーリーになる可能性があることを意味しました。 .53 しかし、映画のリアリズムは警戒主義者を怒らせた。 1896 年には、パリの聴衆が白黒の列車が近づいてくると信じ込んでパニックに陥り、大混雑が起こったという神話が広まりました。54

テクノロジーによって実現されたこれらの新しい長編物語映画が観客に不当な影響を与え、価値観を損なうのではないかという懸念が高まっていました。かつて読書を心配していた純粋主義者たちは、今では巨大でリアルな映画が不道徳な行為を助長するのではないかと懸念している。作家で当時救世軍将軍だったブラムウェル・ブースの妻は、1916年に英国内務省に宛てた書簡の中で、映画は「望ましくない文学」よりも「より強力」であり、その影響力は「より永続的で永続的」であると警告した。 55人のフランス当局者も同様に懸念しており、「殺人、殺人、自殺、窃盗、妨害行為、犯罪行為や攻撃の場面は、リアリズムへの欲求によって特徴づけられることが多すぎるため、いかなる細部も排除しないことにつながっているが、衝撃的だった。」56

ヨーロッパでパニックが高まる中、デンマークの法務大臣は1907年、地元の警察署長に対し、「映画館、コスモラマ、バラエティ劇場を含む同様の施設では、道徳的または精神的に攻撃的とみなされる可能性のある映像を上映する」と指示し、こうした懸念を正当化した。犯罪の実行が描かれたり、その性質上、視聴者、特に大勢で出席する若者を堕落させる傾向にあるもの。」

1910 年代に米国国家検閲委員会の委員だったジョン・コリアーは、小規模映画館について、「それは純粋かつ単純で、社会的交流と芸術的効果を破壊する邪悪なものである」と宣言した[58]。1921 年、ヴァール地方の当局者は、フランス政府は映画に関する布告を出し、その中には「映画館が若者の利用が多いことを考慮し、これらのシーンの一部の俳優は犯罪行為を正当に正当化する性質を演技に与える特別な種類の英雄として登場する」との内容が含まれていた。若者たちに不健全な搾取を継続的に扇動することでは、道徳と同様に、公の秩序と平穏も維持できないことを考慮してください。」

このコンテンツが若者に与える影響は広く誇張され、若者を軽視し、ひいきにすることにつながりました。これは、ビデオゲームでの暴力をめぐる現代のパニックに先立って起きたもので、ビデオゲームでの暴力と軽度の攻撃的行動を結び付ける効果は極めて小さい（平均0.4パーセントから3.2パーセント）だけが研究で示されており、その一方で若者の暴力の主な原因である教育格差、 60 それにもかかわらず、コンテンツに対する適切な年齢レーティングと警告に対する懸念には価値があり、今日でも重要な意味を持ち続けています。残念なことに、すぐに正当性の低い懸念が浮上しました。

「ダイム小説」の認識を反映して、映画は当初「低俗な」もの、つまり洗練された芸術家のためのものではなく、労働者階級のための安っぽい娯楽の形式であると考えられていました61。 1916 年、ガーディアン紙は「街のウニと空虚な少年少女「映画をいっぱいにしてただ座って楽しんでいる」一方、チャーチ・タイムズも新世代の怠惰を警告し、「もしワーテルローがイートン校の競技場で勝ったとしたら、ピクチャー・パレスのパフォーマンスによって将来の戦いでどれほどの成功がもたらされるだろうか」 ?」62米国の医師やソーシャルワーカーは、劇場が「一種の放心状態の『何の役にも立たない』感覚、エネルギーや食欲の欠如」を引き起こすと警告した63。

図 3: パニックの高まり、1912 ～ 192064 年

動画に対する懸念は 1920 年代に最高潮に達しました。ヒステリーの頂点に達したとき、政治家たちは動画が社会を脅かすと確信し、そのコンテンツを厳しく規制し始めた。米国では、映画製作法により、映画は善良な行動を奨励し、国家を尊重し、「キリスト教的価値観」を守らなければならないと義務付けられていた[65]。1913 年に設立された英国映画検閲委員会 (BBFC) には 2 つの規則がありました。ヌードやキリストの擬人化はなかったが、1926 年までに「性に関する問題」や「犯罪」を含む 7 件があった[66]。BBFC は悪名高いギャング映画『パブリック・エネミー』(1931 年)を上映禁止にした一方、バーミンガムやケント州などの地方自治体は、 1932 年にスカーフェイスを禁止することで、BBFC の政策を超えました。67

やがて、潮目が変わり始めた。「ダイムノベル」と同様に、この新しいコンテンツの影響は非常に誇張されていました。社会病はテクノロジーではなく社会の結果であると理解されていました。映画が子供たちに与える影響についての影響力のある研究「Our Movies Made Children」（1935年）は次のように結論づけています。

映画は、私たちの経験の中ではほんの一世代も経っていませんが、人類にとって必要な発明の 1 つであることが証明されており、文明からその存在がなくなったり削除されたりすることは、今では事実上考えられません。最高の状態では、それらはエンターテイメント、指導、精神的態度や理想に望ましい効果をもたらすという高い価値と質の可能性をもたらします。次に、おそらく現在私たちが知るどの媒体にも及ばないでしょう。最悪の場合、彼らは反対の可能性を抱えているということが、自然な首輪として生じます。68

警鐘派から愛好家に転身した一部の人たちは、若者が路上での非行に抵抗するための手段として、新しい形の娯楽を捉えた。英国内務大臣ハーバート・サミュエルは1916年に「最近の青少年非行の増加は、かなりの程度、映画映画の士気を低下させていることが原因である」と述べたが、1932年までに内務大臣は英国議会で「全体的に映画は犯罪を抑制する」と述べた。任務よりも犯罪の防止に重点が置かれている…一般的に、内務省の見解は、もし映画館が存在しなかったら、おそらく犯罪は減るどころかむしろ増えていたであろう、というものだ。」

社会はこのパニックから脱していましたが、映画が社会に与える影響についての懸念が新たな革新とともに再び浮上しています。たとえば、1980年代にイギリスで「ビデオ・ナスティ」パニックが起きた。そこでは、ビデオカセットと低価格の撮影機器によって可能になったホームビデオの普及が、多くの人に社会秩序に対する脅威とみなされていた。 70 パニックが最高潮に達したとき、デイリー・メール紙が「ビデオ・サディズムを今すぐ禁止せよ」という見出しを掲げ、「子供たちの心の強姦」について述べたとき、英国議会は英国映画分類委員会が所有していたビデオの提供を違法とした。未承認。その後検閲法は緩和され、いわゆる「不快な映画」の多くは今日ではおとなしく見えるようになった [71]。その後のマイクロパニックにもかかわらず、今日では映画は一般的であり、映画は大衆に受け入れられている。実際、現在、世界の多くの人がポケットに映画プレーヤーを入れています。

エリート主義、レガシー産業、反テクノロジー運動家、ニュースメディアという 4 つの要素が、あらゆるテクノロジーパニック全体に影響を及ぼし続けています。

新しいテクノロジーに関してしばしばとんでもないことになるのは、そのテクノロジーがより広範な人々にアクセスできることです。従来のクリエイティブ産業では、特定のエリートのみが制作および創作を行うことができます。イノベーションは現状を破壊し、この分野を民主化し、エリート層の怒りと軽蔑を呼び起こします。アメリカの「ダイムノベル」、フランスの「フィーユトン」、またはイギリスの「ペニー・ドレッドフルズ」（さまざまな手頃な価格の文学や雑誌を指す用語）は、しばしば労働者階級の物語を語り、労働者階級の主人公を高揚させ、労働者階級の間で人気がありました。 .72 『ロンドンのワイルドボーイズ』は、「追放された貧しい子供たちの冒険」を描いた、当時の典型的な労働者階級の連続ドラマであった。73 エリートたちは、そのような文学が労働者階級の「士気の低下」を引き起こすと贔屓にしていた。74

図 4: 「ロンドンのワイルドボーイズ」、1864 ～ 186675 年

同様に、米国のニコロデオンは「都市の路上生活の物理的および精神的空間」を占めていると言われています76。英国のシネマトグラフ興行者協会の機関誌であるザ・シネマが述べているように、映画産業の主な使命は次のとおりでした。 77 「ロンドンの労働者階級は下品なものを支持し、忌まわしいものを誇っている！」あるメソジスト派の牧師は初めて映画館を訪れたときのことをこう表現し、また別の牧師は映画館を「大量の汚い文学」と軽蔑的に例えた。78 エリート消費者は民主化するテクノロジーとの闘いに一貫して苦労している。

新しいテクノロジーは、危険の認識に基づいて技術を専門とするプロのテクノロジー評論家にとって、不安を増大させる機会となります。 1920 年代の文芸雑誌『イングリッシュレビュー』は、映画の影響について煽り立てて読者にアピールしました。 1922年に映画について「これはおそらくこれまでに発明された最大のプロパガンダ力である。事実上アメリカを戦争に引き込んだ。」と宣言した[79]。

現代の十字軍の多くは、憂慮すべき擁護活動のための資金を集めたり、『未来は誰のもの』、『数学破壊の兵器』、『抑圧のアルゴリズム』、『監視資本主義』などの挑発的なタイトルの本を販売したりすることに専念している。他の運動家たちは、いわゆる「放蕩テック仲間」です。「ある種の宗教的な目覚めを経験するテクノロジー企業の経営者たち。彼らは突然、以前の雇用主を有害なものだと認識し、テクノロジー巨人を手なずける専門家として自分自身を再発明する。」80 そして、警戒心は儲かるビジネスである。あまりにも。シンギュラリティ（超人的な機械知能の到来による人類の終焉）を 2021 年までに予言した AI の破滅者エリーザー・ユドコウスキーは、非営利団体を設立し、2016 年から 2020 年にかけて Open Philanthropy から 1,500 万ドル近い助成金を受け取りました81。最新かつ最高のテクノロジーにしがみつき、恐怖の物語を広めることによってビジネスを維持しなければならない、繁栄しているアンチテクノロジー産業。

テクノロジー業界の警鐘を鳴らす人々や報道メディアは、ディストピア的な画像に対する共通の愛情を持っています。どちらにとっても、より多くの注目を集めるという目的がさらに促進されます。報道機関にとっては、作家の芸術的な願望も満たされます。報道機関がパニックに陥ると、一騎打ちの勝負になります。主張が奇抜であればあるほど有利です。デイリー・スター紙の「邪悪な『超人』ロボットがターミネーターのように立ち上がると、人類は『絶滅する可能性がある』」という記事は、明白であると同時に無敵だった。82

残念なことに、ニューヨーク・タイムズのような大新聞さえもテクノロジーパニックのスリルに屈してしまいます。たとえば、同紙の見出しは、当時のテクノロジーを説明するために道徳的な言葉を使用していた。小説 (『ダイム小説文学の悪』 [1879]) や映画 (検閲により悪の映像映画が破壊された [1911]) 。83 さらに最近では、同紙は、 2023 年の読者層は、生成 AI を利用したチャットボットである Bing AI が生きていて、そのレポーターに恋をしていたということを伝えていました。84 テクノロジーに対する国民の態度に対するニュースメディアの影響を考えると、ヒステリーの頂点に達するパニックにおいてニュースメディアは重要な役割を果たしています。しかし、テクノロジーに関するメディア報道の多くは好ましくなく、時には露骨なトップダウンの編集上の決定によって動かされることもあります。85 実際、テクノロジーに関する全体的なメディア報道がより否定的な方向に移行するにつれて、テクノロジーを批判する見出しはここ数十年で一般的になってきました。86

ここ数年、生成 AI という新しいテクノロジーが登場し、人々のコンテンツ作成方法が変わり始めています。新しい機械学習モデルは、人間による単純な入力からテキスト、画像、さらには音楽さえも生成できます。これらのツールは、消費者と企業が創作し、アイデアを交換し、楽しむための斬新で生産的な方法を提供します。また、低コストで広く入手できるため、参入障壁の高い業界に民主化効果をもたらしています。

2014 年に Ian Goodfellow によって初めて提案された、敵対的生成ネットワーク (GAN) は、決闘ニューラルネットワークを使用して画像を生成しました。87 Trusting Beginnings の段階では、これらのツールの初期のリスクは明らかであり、2017 年のモデルの能力に多くの人がイライラしていました。その後、ロシアのウラジーミル・プーチン大統領と北朝鮮の指導者金正恩氏のディープフェイクが急速に広まり、偽情報に対する懸念が高まった。89

しかし、一般的に不安は低く、多くの人が生成型 AI の可能性に興奮していました。 VentureBeat は 2018 年に Google の音楽ジェネレーターと生成 AI の可能性について楽観的な記事を書きました90。そして 2020 年のフォーブス誌は、例えば若手エンジニアが、他の方法では何年もかかったり試行錯誤が必要だったデザインを迅速に作成できるよう支援することで、スキルのギャップを埋める可能性について書きました。 .91

次に、2015 年に初めて導入され、2022 年末までに広く利用可能になった拡散モデルが登場しました。このモデルは、画像を破損して再合成することで画像を生成できます。92 拡散モデルは、コスト効率と洗練さの点で GAN を上回り、単純なテキストプロンプトから斬新な画像を生成できました。 2022 年にアーティストが州の公正なコンテストで優勝するためにツールを使用したとき、それが不安を表面化し、初期のパニックを示しました。ニューヨーク・タイムズ紙は、賞が低いことは気にせず、「AIが生成したアートが芸術賞を受賞した。アーティストは幸せではない」と宣言した。このツールに特権的にアクセスできる人々は、その「不穏な出力」について警告し、『スペクテイター』紙には「AI アートの未来を見た、そしてそれは恐ろしい」という見出しが掲載された。93 一部のアーティストは、AI アートが人間の創造性や表現を軽視するのではないかと心配し、そして人々は自分の仕事に興味を失うだろう。アーティストたちは「AI に反対するアーティスト」や「AI アートにノー」などのスローガンを掲げて抗議運動を開始しました94。他のツールを受け入れ、他のツールも写真やデジタルアートソフトウェアと同じように「新しい常態」になることを認めた人もいます。「95

2022 年には、大規模言語モデル (LLM) に基づいて構築された最新世代のチャットボットも登場しました。LLM は、大規模なデータセットに基づいてテキストを生成する機械学習モデルです。技術者や研究者は、誤った情報、偏見、有害なコンテンツなどの LLM のリスクと、データのフィルタリングや「レッドチーム」（モデルが適切に機能しないインスタンスを見つけて評価するためのテストケースの生成）による害の発見の自動化など、それらを軽減するための可能なアプローチに注目しました。 96 しかしその後、Google の従業員は、彼が話していた生成 AI を利用したチャットボットが知覚力を持ったものになったと主張しました。97 このとんでもない主張により、正当な懸念についての真剣な議論はすぐに埋もれてしまいました。人工知能推進協会の元会長であるトーマス・ディーテリッヒは、機械をより適切に含めるように知覚を再定義することを提案した98。そして、その Google 従業員が最終的に解雇される前に、エコノミスト誌は別の Google エンジニアを招いて、「人工ニューラルネットワークにより、意識に向かって闊歩する。」99

以前のパニックと同様、生成 AI パニックの熱狂は、新しいツールの人気と入手可能性の関数でした。 2 か月でユーザーが 1 億人に到達したことにより、一般向けの生成 AI チャットボットである ChatGPT は、史上最も人気のある消費者向け製品になりました。100 ほぼ無制限に多様なコンテンツを生成する生成 AI の能力は、警鐘を鳴らした人たちを熱狂させました。ニュースメディアは大量のセンセーショナリズムを盛り込んでいる:

以前は冷静だった一部のメディアは、恐怖経済から利益を逃す危険を冒すわけにはいかなかった。 MIT Technology Review は、LLM である GPT-3 が「驚くほど優れている」、「オンデマンドで驚くべき人間のようなテキストを生成できる」と大々的に宣伝していました 106。しかし、2022 年末にすべてのマニアが熱狂する中、同じ雑誌が記事を掲載しました。「AI が生成したテキストがインターネットをどのように汚染しているか」というタイトル。107 他のケースでは、暗い見通しが以前のパニックと重複しているように見えます。ブリュッセル・タイムズは、ある男性がチャットボットと会話した後に自殺したと報じた。これは、生成型 AI と自殺との因果関係を危険に示唆しており、19 世紀の小説読書に関するマニアの間でなされた主張を繰り返している。108

ライジングパニックの段階では、技術者が生成 AI をどこで使用しているか、そして誰がそれを知ることができるかについての誤解を招く主張が不安を煽りました。たとえば、警鐘派は、Bing AI が実際には使用されていない場所で有害なコンテンツを作成したと主張しました 109。さらに炎上を煽るために、警鐘派はツールを操作して「生きたいです」などの出力を生成させました。優れた注意と反応ですが、これはこれらのツールがどのように機能するかを誤って伝えています。LLM は意識的な思考を表すのではなく、その代わりに、彼らがさらされているデータをオウム返しにします。111

現時点では、プロのテクノロジー評論家はチャンスを逃すわけにはいきません。作家のユヴァル・ノア・ハラリと元技術者のトリスタン・ハリスは共同論説で、ニューヨーク・タイムズに次のような宣言を含む贅沢な記事を書いた「言語を習得することによって、AIは銀行から文明へのマスターキーを奪取している」「2028 年までに、米国大統領選挙はもはや人間によって運営されなくなるかもしれない。」と予測している[112]。そのような主張は、社会に恐怖を広めるという目的を果たしている。有名な言語学者のノーム・チョムスキーは、新しい生成型 AI ツールについて振り返り、「機械学習は私たちの科学を劣化させ、私たちの倫理を損なう」と警告しましたが、テクノロジーの誤解を招く例を使用しました 113。たとえば、彼は、生成型 AI ツールの予測は次のように書きました。彼らは構文を理解できないため、「常に表面的で疑わしいものになる」。この主張を証明するために、AI チャットボットは「ジョンは頑固すぎて話しかけられない」などの前提を、ジョンが他の人と話すことを拒否していることを意味すると解釈し、システムは別の解釈、つまりジョン自身であるという解釈を認識できないだろうと述べました。、頑固すぎて他人が近寄れない。それが本当であれば、システムは構文を理解できず、そのためこれらのツールの理解が「表面的」であるとみなされる、と同氏は主張した。しかし、実際には、ChatGPT は次の両方を認めます。

「ジョンは頑固すぎる」というフレーズは、たとえそうすべき正当な理由があるとしても、ジョンが自分の考えや行動を変える気がないことを意味します。頑固さは、人が柔軟になったり、妥協したり、新しい状況に適応したりするのを妨げる場合、ネガティブな特性としてみなされることがあります。また、特に別の視点や解決策を検討する気がない場合、他の人がその人と仕事をしたり、コミュニケーションをとったりすることが困難になる可能性があります。114

結局のところ、AI が「科学を劣化させ、倫理を劣化させる」という議論は、このテクノロジーに関する誤った主張に基づいていたことが判明した。これらのツールに関する誤った情報の拡散は、その可能性についての憶測を煽り、ディープフェイクを含む新たなサイバーセキュリティの脅威や新たな知的財産の考慮事項など、想像上のリスクではなく実際のリスクに基づく懸念から注意をそらします115。この混乱は政策立案者の間でも広がりました。米国上院議員クリストファー・マーフィーは2023年、「ChatGPTは高度な化学を行うことを自ら学習した。それはモデルに組み込まれていなかった。複雑な化学を学習するようにプログラムした人は誰もいなかった。自ら学習することを決意し、その後、その知識を尋ねる人なら誰でも利用できるようにした。」と主張した。「何かがやってくる。まだ準備ができていない。」116 しかし、ChatGPT は、自分自身に何かを教えることを選択せず、化学の法則を学ばず、それについての既存の記述をオウム返しするだけでした。

誤った情報が流される可能性など、正当なリスクが存在する場合でも、恐怖は誇張されます。 NewsGuard の共同最高経営責任者、ゴードン・クロヴィッツ氏は ChatGPT について、「このツールは、これまでインターネット上にあった誤った情報を広める最も強力なツールになるでしょう…AI エージェントが偽情報に貢献しているようなものです。」117 ChatGPT がどうかこれは極悪非道な人間にとって強力なツールであるため、たとえボットが時々間違ったことを言ったとしても、「AI エージェント」自体が偽情報を生み出すことはありません。一方、差し迫った大量失業の懸念は誇張的だ。 2023 年 3 月、Vice Media は、「OpenAI の調査によると、米国労働者の仕事の 80% が GPT の影響を受ける」という見出しを掲載しました 118。しかし、この調査では実際には、「米国の労働力の約 80% は、少なくとも 10% の影響を受ける可能性がある」と述べています。彼らの仕事に影響が及んだ。」119 この目を引く見出しは、警鐘を鳴らす人々への警鐘として機能した。120

この記事の執筆時点では、生成 AI に関するパニックはライジングパニック段階にあるようですが、まだヒステリーの頂点には達していません。この段階では典型的に、現状を維持したい政策立案者が懸念を正当化し始めている。たとえば、2023 年初頭、EU の議員らはパニックに対応して、EU の生成 AI 法における特注の修正案を起草し、事実上、テキストからテキストへのジェネレーターを「高リスク」とみなす新しいカテゴリーを提案しました。このアプローチは、テクノロジーではなくユースケースに応じてリスクを配分するという法案の本来のアプローチに反するものである。生成型 AI が、雇用、教育、公共サービスなどの確立されたカテゴリーの中で「その他」のカテゴリーに置かれたということは、パニックの中で場当たり的な政策決定がどのように蔓延するのかを示す危険な告発です 121。その後、3 月にイタリアのデータ保護当局は、 ChatGPTを禁止するという前例のない措置であり、西側諸国としては初となる。同様の措置を検討している123。

生成型 AI パニックがヒステリーに向かう中、技術者のイーロン・マスク氏、ゲイリー・マーカス氏、スティーブ・ウォズニアック氏を含む 25,000 人以上の警鐘を鳴らす人々が、AI の開発を一時停止する書簡に署名した。 (1 か月以内に、イーロン・マスクは独自の LLM を作成するためにライバルの AI ラボを設立しました。このことは、彼の署名が単に競争を遅らせる試みだったのかどうか疑問を生じさせます。)124 この書簡は、クリエイティブ部門における以前のパニックを反映して次のように尋ねています。「最終的には私たちを上回り、知恵を絞り、時代遅れになり、私たちに取って代わる可能性のある非人間的な精神を私たちは開発すべきでしょうか？」[125] さらに野心的な警戒主義者たちは、この書簡は十分ではないと主張している。例えば、エリーザー・ユドコウスキーは AI のリスクを核戦争に例え、「政府は空爆によって不正なデータセンターを破壊することをいとわないべきである」と述べた[126]。AI は核戦争と同じくらい人類にとってのリスクであるという懸念に、ジェンも同様の意見を述べた。イースタリー、サイバーセキュリティ・インフラセキュリティ庁 (CISA) 長官。127 このたとえが有効であることが証明されたとしても、少なくともすぐには証明されないだろうが、AI 開発を一時停止すれば、敵対者は前進するだけになるだろう。

生成型 AI パニックは、クリエイティブ分野の多くを含む、長い一連のテクノロジーパニックの最新のものにすぎません。クリエイティブ分野におけるこれまでのイノベーションと同様に、生成 AI の採用は急速に拡大しており、さまざまな機能が提供され、人々が新しいコンテンツを制作できるようになりました。そして、以前のテクノロジーと同様に、それは警戒主義者たちの不安と怒りを引き起こしています。これまでのパニックは沸点に達し、警鐘を鳴らす人々と報道機関との共生関係によって促進され、時には政策の分野にまで波及した。生成型 AI をめぐるパニックが最も不安定な段階に入る中、過去のテクノロジーパニックは政策立案者に 3 つの重要な教訓を与えています。

不安や恐怖は、災害が差し迫っているという誤った信念につながる可能性があります。重要なのは、すべての懸念が無効であるということではありません。実際、過去には多くの人が新技術に対して正当な懸念を抱いており、政策立案者は民間部門、市民社会、学界の間で新技術によるリスクについて合理的な議論を奨励すべきである。しかし、印刷された本、映画、録音された音声にわたるテクノロジーパニックの歴史を振り返ると、多くの恐怖が現実化することはなかったことが明らかです。彼らの懸念が現実にならなかったからといって、最初からリスクがなかったわけではありません。むしろ、社会や市場はリスクを軽減するように適応することがよくあります。したがって、政策立案者は、自分たちがテクノロジーパニックの真っ只中にいることを認識し、より差し迫った有効な議論を締め出してしまう、生成型 AI に関する仮説や誇張された懸念を消化する際には注意する義務があるだろう。

過去の失敗した終末予測について異議を申し立てられると、警戒主義者はしばしば例外主義を根拠に自らを弁護し、この新技術はユニークで並外れたものであると主張する。実際、運命論者は、別のチキン・リトルとして描かれることを避けるために、「今回は違う」とよく主張します。128 しかし、これらの過去の例が示すように、生成 AI に関する主張は決して新しいものではありません。批評家は過去のことを忘れることが多い。『ソーシャル・ジレンマ』では、AI 警鐘を鳴らすトリスタン・ハリスが、ソーシャルメディアのアルゴリズムを自転車の発明に例えました。「自転車が現れても誰も動揺しませんでした。誰もが自転車に乗って走り回りました。誰も『なんてことだ、我々は台無しになってしまった』とは言いませんでした」「自転車は人々に影響を与え、子供たちから引き離しています。自転車は民主主義の構造を台無しにしています。何が真実なのか、私たちにはわかりません。」私たちは自転車についてそのようなことを一度も言ったことはありません。」129

しかし、ハリスの考えは間違っていた。注目すべきことに、1800 年代と 1900 年代初頭にも、自転車について人々が同じように突飛な主張をしており、新聞は自転車が人を狂わせ、身体疾患を引き起こし、女性を錯乱させると非難した[130]。

政策立案者は、誤った法律や規制によって生成型 AI に不当な損害を与えることを避けるために、政策を策定する際に初期の不安に過剰に反応しないようにする必要があります。そのために政策立案者は、テクノロジーパニックサイクルの最終段階に達するまで、生成AIを直接対象とした新たな法律や規制を一時停止すべきだ。この時点まで待てば、不当な不安が政策議論を支配することを避けることができるだろう。新しい法律や規制が必要な場合は、仮想的な害悪ではなく実際の害悪を対象にし、正当な懸念に対処しながらテクノロジーの利点を保護するバランスをとる必要があります。これにより、生成型 AI が社会にとって価値あるツールであり続けることが保証されます。

そのためには、規制上の注意が必要です。英国など一部の国はすでに軽視している。 AI を規制するための提案された枠組みは、生成 AI のための新しい法律を制定するのは時期尚早であることを認めています 131。対照的に、EU と中国は、より抜本的な措置を提案しています。 EUでは、生成型AIは10年近く前から存在しており、欧州委員会の影響評価には含まれていなかったにもかかわらず、欧州議会議員がAI法の土壇場改正を提案し、生成型AIを高リスク技術として扱うようになった。同様に、中国でも、政府は生成 AI テクノロジーに対する懸念に対処するために、生成 AI に関する特定の規則を提案しています。133 また、米国の一部の議員は、この新興テクノロジーを規制するために、国は早急に新しい法律を可決する必要があると主張しています。 .134 しかし、パニックのさなか、新たな法律で生成型 AI を対象とするのは見当違いであり、不十分に作成された規則につながる可能性が高い。

生成 AI はここ数カ月で目覚ましい進歩を遂げており、それらの進歩に伴い、将来に対する合理的な期待と不安も生まれています。このテクノロジーには大きな力と可能性がありますが、完璧でも全能でもありません。感情や意識を持たない、単なるコードとデータの集合体に過ぎません。多くの点で斬新ですが、怖くはありません。政策立案者は過去のテクノロジーパニックの歴史を思い出し、現在のパニックサイクルの中で生成型AIがどの位置にあるのかを認識し、冷静さを保つ必要がある。そしてそれは、誰よりも早く AI を規制しようとする急ぐことに屈しないことを意味します。それはおそらく社会にとって悪い前兆であり、機会の損失につながるでしょう。

Patrick Grady は、Center for Data Innovation の政策アナリストであり、AI とコンテンツモデレーションに重点を置いています。以前は、インターネット委員会でプロジェクトリーダーを務め、欧州イノベーション技術研究所で戦略を担当していました。パトリックは哲学と政治学の修士号を取得しています。

ダニエル・カストロは、データイノベーションセンターの所長であり、情報技術イノベーション財団の副会長です。カストロ氏は、データ、プライバシー、セキュリティ、知的財産、インターネットガバナンス、電子政府、障害者のアクセシビリティなど、情報技術とインターネット政策に関連するさまざまな問題について執筆および講演を行っています。彼の業績は、ワシントン・ポスト、ウォール・ストリート・ジャーナル、NPR、USA Today、Bloomberg News、Businessweek など、数多くのメディアで引用され、引用されています。カストロ氏は2013年、フェドスクープの「政府とテクノロジー業界で40歳未満の最も影響力のある人物トップ25」のリストに選ばれた。 2015年、ペニー・プリツカー米国商務長官はカストロ氏を商業データ諮問委員会の委員に任命した。カストロ氏は以前、政府監査局 (GAO) で IT アナリストとして勤務し、さまざまな政府機関の IT セキュリティと管理統制を監査していました。彼は、証券取引委員会 (SEC) や連邦預金保険公社 (FDIC) を含むさまざまな連邦機関の情報セキュリティの状況に関する GAO レポートに貢献しました。さらに、カストロ氏はペンシルバニア州ピッツバーグのソフトウェアエンジニアリング研究所 (SEI) の客員研究員であり、クライアントに最新の情報セキュリティツールの実践的なトレーニングを提供する仮想トレーニングシミュレーションを開発しました。彼はジョージタウン大学で外交サービスの学士号を取得し、カーネギーメロン大学で情報セキュリティ技術と管理の修士号を取得しています。