2022年11月30日は歴史的な日に：その日起こったチャットGPTによるAIの（一般）リリースはまたたく間に世界を席巻し、現在第何次目かの産業革命を起こしつつあります。GPTって何？って私も思いました。私の知っている「ガンマGTP」とは違うなあ。私が健康診断でよく引っかかる数値がガンマGTPで肝臓の機能低下を表すもの。そしてこのGPTはGenerative Pre-trained Transformer の略で事前学習された多言語を操るAIの大規模言語モデルというものらしいです。
問題はこのAIが賢すぎて超便利な反面、ホワイトカラーやクリエーターの仕事を奪うのではないかとも言われています。これは産業革命の常でこれまでも機械化、自動化、大量生産の波によって幾多の仕事が奪われ失業、貧困の問題が起きました。しかしAIがもたらす危機はそれに止まらないところがさらにやっかいです。
事実、あのイーロン・マスク（チャットGPTを開発したオープンAI社を立ち上げたメンバーの一人でもある）や多くの著名な学者、AI研究者などが署名したオープン・レターが警鐘を鳴らしています。
「巨大AI実験6カ月停止」の要請が出た背景、賛同した日本人研究者に聞く
「全てのAI（人工知能）ラボはただちに、GPT-4よりも強力なAIシステムの訓練を少なくとも6カ月は停止せよ」――。米国の非営利団体Future of Life Institute（FLI）が2023年3月22日（米国時間）に公開し、著名なAI研究者や技術者、経営者が署名したオープンレターが議論を呼んでいる。
「高性能なAIは根本的に危険性がある。原子力と一緒で、うまく制御できれば有用だが、制御不可能になった場合のリスクが計り知れない。AIは現在、『スケーリング則（Scaling Law）』に従って性能が際限なく向上し始めている。この先、何が起きるのか不明であるため、まずはリスクの見極めが必要だ」。オープンレターに署名した1人でもある慶応義塾大学大学院政策・メディア研究科の高橋恒一特任教授は、趣旨をそう説明する。
まさに原子力と同じでそれが制御できれば脱炭素化を支える一つのエネルギーだが、ひとたび制御不能に陥れば人類を滅ぼしかねない悪魔の火となるように、人智を超えるAIが世界を支配し人間と対立するようなことになればSF映画に繰り返し描かれた悪夢が本物になりかねません。
おおざっぱに言うと人間の知能を遥かに凌駕するAIが自律的にAIを作り、どんどん進化してゆくことをシンギュラリティと言うならばそれによって人間の存在が脅かされないかまだ安心できません。核兵器のように誰かが「スイッチ」を入れてしまえばそれを他の人が止められるかどうなのか。
多くの研究者はそのシンギュラリティが何十年も先だと思っていたところが今度の「大規模言語モデル」の到来ですでに始まっているとか始まりつつあるとか、数年先に始まるとかいうレベルに至ったのではないかと言っている訳です。世界中でその議論が始まっていることは確かです。
私もこの問題を放置することは出来ないかと思っております。今後状況を見守ると共に情報をアップデートしてゆきたいと思います。
