【インタビュー】AIは恵みか、災いか...結局は人間次第。記事入力 2024.01.03. 10:00:36
最終修正 2024.01.03. 13:25:11. 韓国語の記事からの和訳：
https://www.pressian.com/pages/articles/2024010214295783997
今日、AI(人工知能)は韓国社会の様々な分野で導入され、急速に進化している。医療保健、金融財政、科学技術、交通、芸術など様々な分野で活用されている。将来のAI研究の方向性も、倫理的な問題とともに、AIに対する理解と解釈を一般人が容易にできるように改善し、進展させることである。真実や知識、力、権力は決して少数の特定勢力が専有してはならず、独占はすぐに危険と破壊をもたらす。
AIは果たして人類にとって祝福なのか、それとも災害なのか？歴史学専攻でAIには門外漢の私は、このような質問と懸念に対する答えがとても気になった。 そこでここ数日、AI研究者であるジョナサン氏と長時間AIをテーマに様々な話をした。ジョナサンはイギリスのランカスター大学と大学院でコロナ19、物理学、化学、生物学、数学などを含む自然科学を勉強し、現在はロンドンのAI研究所で3年目の研究員として働いている。今、AIは仕事で彼が毎日扱う彼の「主な業務」であるだけでなく、仕事帰りや週末には彼の「趣味」であり「娯楽」である。 つまり、彼はAIの「患者」であると同時に、AIに夢中になっている若者である。ジョナサンは筆者の息子でもある。
以下は会話の主な内容をまとめたものだ。
- 最初にAIをいつ、どこで、誰が、どのように発明したのか？
1.哲学的基盤：
知的な機械を創造するという考えは、古代文明時代の人間がすでに考えていた。古代神話や説話を見ると、当時の人々は思索と想像を通じて、知能的な機械が人間のように知性と意識を持ち、人間と一緒に存在するものとして描写している。このような古代文明の哲学は、結局、今日のAI問題の土台を作り、基本原理となった。
2.数学的そして理論的貢献：
- 英国の数学者であり物理学者であるアラン・チューリング(Alan Turing, 1912-1954)は、AI発展の中枢的な人物であった。 彼は1930年代にユニバーサルチューリングマシン(universal Turing machine)という概念を作ったが、この機械は他の機械の論理を模擬実験(シミュレーション)することができた。1950年に彼が紹介した有名なチューリングテストは、人間の知性と行動を機械を通じて人間と区別できないほど類似して見せる能力を備えるように設計された。
- 正式な論理とアルゴリズム（一連の算法）： フランスの数学者カート・ゴーデル(Kurt Gödel. 1906-1978)とアメリカの数学者アロンゾ・チャーチ(Alonzo Church, 1903-1995)は、正式な論理とアルゴリズム理論を開発することで、コンピュータの使用を理解できるように理論的基盤を提供してくれた。
3.初期のコンピュータと人工脳研究：
- 1940年代に米国で作られた最初の本格的なコンピュータENIAC(ENIAC)は、最初のAI研究のために必要なハードウェアを提供してくれた。
- 人工脳研究を学術的に初めて研究したのは、アメリカのコンピュータ科学者であるノーバート・ウィナー(Norbert Wiener, 1894-1964)である。 彼は機械と生物のコミュニケーション、調整、規定などについて研究することで、初期のAIの概念を作るのに決定的な影響を与えた。
4.学問としてのAIの誕生：
- 初めて「AI(Artificial Intelligence)」という用語を作り、使用したのはアメリカのコンピュータ科学者ジョン・メカーシー(John McCarthy, 1927-2011)で、1956年の米国ダートマス大学の会議でだった。 そして、この時からAIは正式に学問の一分野として認められ始めた。 当時、この会議で神経回路網、コンピュータ使用理論、自動化知能などのテーマが本格的な学問の研究テーマとして浮上した。
5.初期のAIプログラム：
- 1950年代後半から1960年代初頭、初期のAIプログラムが開発された。当時、アメリカのコンピュータ科学者アラン・ニューウェル(Allen Newell, 1927-1992)は「論理理論家」、アメリカの政治学者ハーバート・サイモン(Herbert A. Simon, 1916-2001)は「一般問題解決者」、ドイツ系アメリカ人コンピュータ科学者ジョセフ・ワイゼンバウム(Joseph Weizenbaum, 1923-2008)は原始的な自然言語処理プログラムである「エリザ(ELIZA)」というタイトルの論文を発表したが、これらの論文が初期のAIプログラムとして評価されている。
6.不況の前兆となる雷景気時代(Boom and Bust Cycles)：
- しかし、その後、AI分野は米国政府と企業の研究資金削減と無関心で不景気を経験した。 そのため、この時期は「AIの冬(AI Winters)」としても知られている。
7.機械学習と現代AIの上昇：
- ここ数十年、機械学習、特に深層学習が大きな進歩を遂げ、その結果、AIの研究と応用が復活し、復活する効果をもたらした。 その結果、コンピュータの容量も大きくなり、コンピュータによる大量のデータ検索と処理が可能になり、アルゴリズム（一定の計算基準を定めるための一連の規則）が大幅に改善され、これらのことは、最終的にAIの能力を強力に促進させた。
- 個人的にはどのようにAIに興味を持つようになったのですか？ 動機やきっかけはありましたか？
「2022年末まで、私は常にAIの進歩、つまり芸術創造、音声複製、人間に似た会話などを遠い未来のことだと考えていました。AIが私たちの生活に適用されるまでには、少なくとも5-10年はかかると思っていました。しかし、この1年余りの間にAIは私のこのような予想を覆し、大きな進歩を遂げました。私は今、未来が、私が予測していた数年後の未来ではなく、今この瞬間の現在に実現していることを実感している。私は今、この進歩をとても身近に感じている。そして、そんな近づいた未来と、個人的にはもちろん、AI研究所の研究者として、日々日々研究しています。
- 現在、職場ではAIに関してどのような仕事をしていますか？
"私はAIを個人的なプライベートはもちろん、職場のAI研究員として日々使っています。日常で私はOpenAIのGPT-4モデル（開放型AI、Generative Pre-trained Transformer 4）を利用して複数の文書コードを検討し、同時に問題を解決するための代替案を提示する。それによって、今まで私たちが人間として認識できなかった問題をAIを活用したより効率的な方法を活用して解決しようとする。
AIを活用すれば、人間は膨大な時間と資源を減らすことができ、同時に膨大なことを学ぶことができる。私の会社員研究所で私は私たち人間の生活に必要なすべての商品のすべての面を知ることができるツールを作っています。また、非専門家である一般人も簡単に同時多発的に複数の仕事、つまり1～2つの仕事ではなく、20～30種類の仕事を一度にできる半自動プラットフォームを作っています。"
- AIが人類にもたらすメリットと利益は？
"AIの最も大きなメリットは、人間が日常生活の反復的で面白くない仕事から解放されることだろう。少なくとも私が働く分野では、人間の役割は管弦楽の編曲者や建築家のようなものになるだろう。人間は全体的なビジョンと目標を定め、AIがこのような人間のビジョンと目標を達成するためにほぼすべての仕事をこなしてくれるだろう。それは人間が退屈で苦しい労働と家事から解放されることを意味する。それなら、人間は余暇に他人を助ける意味のある仕事や共同体のためのボランティア活動などを通じて、より価値のある生活を追求することができるのではないか？"
- では、AIが人類にもたらすデメリットと問題は？
"短期的に、最も大きな問題は、ほぼすべての仕事がAIによって自動化されることで、現在の職場の多くが消える危険性があるということだ。特に、言語通訳、会計財政、作品創作、広告分野などですぐに始まるだろう。生成的なAIがさらに向上すればするほど、現在の職場で人間の役割をさらに代替することになるだろう。中長期的には、AI自体が人間の助けなしに自ら別のAIを作ることも十分に可能である。その点で、人類の未来は、SF映画や小説で見るような人間が必要ないディストピアのような世界になるかもしれない。このようなことはもちろん、近い将来、人間の生存そのものを本当に潜在的に大きく脅かすものになる可能性があります。"
- AIがもたらす欠点や問題を予防し、解決するために、政府や私たちは何をすべきですか？
"個人的には、このような来るべき危険を防ぐための最善の解決策がどこにあるのか分からない。AIによって人間が仕事を失うのは時間の問題であり、理想的な未来は、人間が生きるために、生存のために働かなくても、収入を心配しなくても、生きていける世界でしょう。そういう意味で、政府が主導する普遍的なベーシックインカムが必要だろう。仕事をしたくても仕事がほとんどないからだ。しかし、短期的にはAIのために多くの職業が不要になるが、またAIに関連した多くの新しい職業が生まれるだろう。
中長期的に避けるべき状況は、将来、AIで生まれた豊かさと利点を少数のエリートが独占し、多数の人間はただのゴミのように扱われる悲劇である。もし少数エリートだけがAIで生じた豊かさと利点を独占することになれば、人類は未来は本当にSF映画のディストピアのようになるだろう。幸い、現在、米国のAI会社OpenAIが「民主化」の道を追求しているように見える。 つまり、できるだけ多くの人々がAIを幅広く使用できるようにする道だ。
AIが将来「悪役」化されるのを防ぐために、人間はどのような選択をすべきだろうか？以下の3つのシナリオを想像してみよう。第一に、何の制約もなくAIを発展させ、何が起こるか見ようというシナリオ。 第二に、人類が適切な代替案を用意するまで、AIプログラムを完全に停止させたり、開発速度を思い切り遅くするシナリオ。第三に、折衷案として、AIは発展させるが、関連する半導体やハードウェアは発展のスピードを極端に遅くするシナリオ。第三案を選択する場合、AIがもし「悪役」化しても、AIを支える物理的な半導体やハードウェアがない、または不足しているため、人間への被害を最小限に抑えたり、制御することができるからだ。
個人的に私はAIの発展速度を止めることはできないと考える。AIに対する人間の好奇心、開発欲求は止められない列車のようなものではないだろうか？もしアメリカのAI会社OpenAIが今のようにAIをさらに発展させなければ、他の誰かが床の間に隠れてでも今のAIをさらに発展させるだろう。歴史の大勢を、文明の流れを人間が逃れることはできないのではないか？"
- AIを牽制とバランスがない非民主的な国、つまりロシア、北朝鮮、中国などで使用する場合、懸念される状況は？
「今この瞬間にも私は中国やロシアなどが積極的にAI研究に膨大な資源と人材を投資していると確信している。他の研究分野と同様に、AI研究分野も非民主的な国々は安全と国際条約を無視して開発に専念するだろうと思う。幸いなことに、現時点では米国のOpenAI、Google、そしてAnthropicのような企業が競争相手である中国やロシアよりもAI開発にはるかに進んでいると私は信じている。しかし、今年OpenAIのコードを全面開放化する場合、今後の国際情勢は十分に変わる可能性があると思う。"
- AIが別のAIを作って人間を奴隷化する場合を防ぐために、政府のどのような政策や努力が必要だと思いますか？
"近い将来、AIが別のAIを人間の助けや指示なしに、または人間が理解できないほど高いレベルで精巧に独自に向上させたり、まったく新しく作ることもできるだろう。さらには、AIが意図的に人間が知らないうちに、または人間のコントロールを完全に逃れるために、わざとそうすることもあるだろう。
このような来るべき問題を人間がどのように解決するかは非常に難しいテーマだ。民主国家でこのような点を懸念してAIの研究開発を制約したり、遅らせたりしても、非民主国家では、過去の冷戦時代の笑顔の軍事競争のように、潜在的な安全と懸念を無視してでも、無条件にAIの研究開発に全力で取り組むだろう。今、北朝鮮が国際社会の圧力を無視して核・ミサイルの研究・開発に無条件に尽力するのと似ていると言えるだろう。
AIと競争するために、人間の脳にAIのチップを埋め込むというイーロン・マスクの提案も、議論の余地が多い。火に油を注ぐ」というアプローチは破壊的かもしれないし、同時に驚くべきアプローチかもしれない。脳ではなく、人間の身体に部分的にAIチップを埋め込むという彼の提案も、潜在的には、盲人が目を開け、耳が聞こえ、足が不自由な人が歩くという'奇跡'も呼び起こすことができるのではないだろうか。"
- AIを通じて最も多く学び、感じたことは？
"AIに対する危険や懸念が多い状況にもかかわらず、そのおかげで今は世界と新しい技術を学ぶことが人類史上最も簡単な時代です。今でも日常生活で私たちはAIの恩恵をすでにたくさん受けています。例えば、冷蔵庫の中にある食べ物を写真に撮った後、ChatGPTに冷蔵庫にある食べ物をもとに作れるメニューとレシピを教えてほしいと指示すると、すぐに答えが返ってくる。200ページのフィディエフの本の各章の要旨を2文でまとめろと指示すると、AIはすぐにやってくれる。相対性理論」を5歳児が理解できるように韓国語または英語で説明するように指示すると、すぐにやってくれる。新しい言語を2週間で学ぶための計画書を作ってくれと言えば、作ってくれる。赤ちゃんに寝る前に聞かせるための童話を書いてくれれば、すぐに書いてくれる。
同時に、何の制約もなく、AIは私が自宅で爆弾をどのように作ることができるか、無色無臭の毒薬などをどのように作ることができるかを教えてくれれば、すぐに教えてくれる。 また、有名人の声を私が望む内容で聞かせることができる。また、有名人、いや、普通の私の隣人のやっていない行動を、まるでその人が実際にやったかのように動画で私に見せてくれることもできる。その場合、私たちは操作された声と動画を証拠として法廷裁判に提示することもできる。
スパイダーマン映画のバナおじさんの言葉通り、「大きな力、大きな権限には大きな責任感が伴わなければならない。おそらくAIのおかげで、すべての人間は近いうちに大きな力と権限を享受できるようになるだろう。しかし、私たちがすでに知っているように、大きな権限、大きな力を持つ者がすべて大きな責任意識を持つわけではありません。"
ジョナサンがAIを活用して描いた「半(半)人間、半AI」 ⓒキム・ソンス
