チャットＧＰＴの最新版言語モデル「ＧＰＴ─４」を上回るシステムの開発を６カ月間停止

gooニュース

https://news.goo.ne.jp/article/reuters/business/reuters-20230418027

18日のニュースで「ＧＰＴの最新版言語モデル「ＧＰＴ─４」を上回るシステムの開発を６カ月間停止するよう求め」があったが、

「全てのAI（人工知能）ラボはただちに、GPT-4よりも強力なAIシステムの訓練を少なくとも6カ月は停止せよ」――。米国の非営利団体Future of Life Institute（FLI）が2023年3月22日（米国時間）に公開し、著名なAI研究者や技術者、経営者が署名したオープンレターが議論を呼んでいる。

　「高性能なAIは根本的に危険性がある。原子力と一緒で、うまく制御できれば有用だが、制御不可能になった場合のリスクが計り知れない。AIは現在、『スケーリング則（Scaling Law）』に従って性能が際限なく向上し始めている。この先、何が起きるのか不明であるため、まずはリスクの見極めが必要だ」。オープンレターに署名した1人でもある慶応義塾大学大学院政策・メディア研究科の高橋恒一特任教授は、趣旨をそう説明する。

開発停止、ではなく訓練の一時停止

　オープンレターが求めるのは、AIの開発停止、ではなく、米OpenAI（オープンAI）の大規模言語モデルGPT-4を上回るような、数千億パラメーター規模よりも大きい巨大な機械学習モデルの訓練の一時停止である。そしてオープンレターはこの一時停止期間に、AIの設計や開発に関する安全性プロトコルを協議したり、AIガバナンスに関する規制について協議したりすべきだと主張している。

　「技術的には、AIの訓練を6カ月止めても意味はない。技術開発が進むのは止められないし、止めるべきだとの意図もオープンレターにはない。しかし昨今の急速なAIの進化に対して、AIを巡るリスクに関する一般社会や政策側における議論が追い付いていない。世の中の関心を高める必要があると考えて署名した」。自らもAIの研究開発を進めている高橋教授は、悩みながらもオープンレターに署名したと語る。

　オープンレターを公開したFLIは、米マサチューセッツ工科大学（MIT）の物理学者であるMax Tegmark（マックス・テグマーク）教授らが2014年に設立した団体で、米Microsoft（マイクロソフト）が2011年に買収した「Skype」の共同創業者であるJaan Tallinn（ヤーン・タリン）氏や米Tesla（テスラ）のElon Musk（イーロン・マスク）CEO（最高経営責任者）などが資金を提供している。

　FLIは2015年にAI自律型兵器の禁止を訴えるオープンレターを出すなど、これまでもAIの発展に伴うリスクに関する政策提言や、リスクを低減させるための技術開発を促進すべきだとの主張を継続的に行ってきた。AIに関するリスクとしてFLIが以前から着目していたのが、人間のように柔軟な思考ができる汎用人工知能（AGI）だ。

　もしAGIが実現したら、AIがより優れたAIを人間に頼らず開発し始めて、AIが際限なく進化し、人類がAIを制御できなくなる――。そんな懸念はSF作品を含めて、昔から議論されていた。しかしこれまでは「AGIの実現は数十年後」との認識が一般的であった。

　しかしここにきて、AIが急速に進化し始めた。その背景にあるのがスケーリング則だ。機械学習モデルのパラメーター数や訓練に投じる計算量・データ量がある水準を超えると、AIの性能が突然、急激に向上し始めた現象を指す。従来とは全く異なる、非連続的な速度でAIが進化している。

　この現象に多くのAI研究者が戸惑いを感じている。「非連続的なAIの性能向上がなぜ起きたか、その原理が解明できていない」（高橋特任教授）ためだ。

　スケーリング則によって危険な存在とされるAGIの完成が前倒しになった可能性がある。しかしスケーリング則の原理が解明されていない現状では、それがどれぐらい前倒しになったかが分からない。

　「AGIが社会にもたらすインパクトは巨大だが、AGIが実現する確率も時間の切迫性も不明なのが現状」（同氏）。よってまずはAI開発のスピードを緩めて、遅れているAIのリスクに関する議論を進める必要がある、というわけだ。

　それではAIのリスクに関して、今後どのような議論を進めるべきなのか。高橋特任教授は「生物学、遺伝子工学の分野が参考になる」と指摘する。