GPT-４以降のAI開発を半年間止めるべきだ！イーロンマスクを含む1000名以上の技術者の署名が集まっています。AIは人類を滅ぼす危険なものになってしまうのか、我々は呑気に投資テーマに持ち上げている場合なのか。これを読めばなんとなくしか知らなかったAIをめぐる大枠を掴めます
AIが人類を滅ぼすなんてＳＦ映画みたいな事がホントに起こるんだろうか
何故今AIの開発を止めるべきとする署名が集まるのか
先日ブルームバーグにこのような記事が出ました
深刻なリスク招くとしてＡＩ開発の半年間停止求める署名運動進む
ＡＩ研究を巡っては、規制環境が整わない状態でこのまま開発を続ければ社会に深刻なリスクを招き得るとして開発の「少なくとも半年間」停止を求めるオンライン署名運動が進んでおり、米電気自動車（ＥＶ）メーカー、テスラのイーロン・マスクＣＥＯを含め1000人を超える技術者や研究者、起業家らの署名が集まっている。
https://www.bloomberg.co.jp/news/articles/2023-04-07/RSQ5KUDWLU6B01?srnd=cojp-v2
具体的にはGPT-4より強力なAGI(汎用人工知能)の訓練を停止するべきとしています
GPT-4とは２０１５年アメリカで設立されたOpenAIという非営利団体の開発する大規模言語モデルです
大規模言語モデルと言ってもいわゆる翻訳ソフト程度のものではなく作文ソフトなんて生易しいものでもありません。それはもはやAGI(汎用人工知能)とみなす事がふさわしい(Microsoft論文)と言われる程の高度な思考能力をもっています
GPT-4はその前のバージョンGPT-3.5と比べて圧倒的な進歩を遂げています。今この瞬間も汎用人工知能は猛烈な勢いで進化していると思われます
しかし規制環境が整わない現状のままAGI(汎用人工知能)ばかりが猛烈に進化してしまった場合どうなるか
それはとても恐ろしい結果を招くかもしれないという懸念が今巻き起こっている様です
その背景にはディープラーニングという機械学習方法によるトレーニングが人間の全く思いもよらぬ知見を人工知能にもたらすかもしれないという懸念がありそうです。これについては後の章で詳しく書きます
かつてＳＦ小説にて提唱されたロボット三原則の様な根源的な原則を定める規制環境を早急に整えるべきと言うわけです
かつてのＳＦ小説の世界だと思われた様なレベルの危機が今現実の危機だと多くの専門家が唱える。これほどに今やAIの性能は進化してるという事だけは間違いないようです
いったんAIの歴史を振り返ってみる
では何故ここに来てこれほど汎用人工知能は急速に進化しているのか、この章ではこの流れを掴むべくAI開発の歴史の大筋を調べてみました
AI開発は１９５０年代からはじまって今は第三次AIブーム
ここでは主に下記のサイトから転用させていただきます
このサイトによりますとこれまでAI開発には３度のブームがあり現在はその３回目のブーム中にあるそうです
AI開発の３度のブーム
- 第一次AIブームは１９６０年代半ばにピーク
- 第二次AIブームは１９8０年代半ばにピーク
- 第三次AIブームは２００6年から始まり、ピークは未だ見えず
第一次AIブームは１９５０年代より本格化し１９６０年代半ばにピークを付けた
この年代を見て真っ先に思い浮かんだのは「アポロ計画」
アポロ計画（アポロけいかく、Apollo program）は、アメリカ航空宇宙局（NASA）による人類初の月への有人宇宙飛行計画である。 1961年から1972年にかけて実施され、全6回の有人月面着陸に成功した。 アポロ計画（特に月面着陸）は、人類が初めて有人宇宙船により地球以外の天体に到達した事業である
https://ja.wikipedia.org/
アポロ計画の実行に5年ぐらい先行してAI第一次ブームは起きているところ、アポロ計画の収束にやはり５年ぐらい先立ってブーム収束しているところからアポロ計画が第一次ブームに深く関わっていそうです（筆者推測）
第二次AIブームは1980年代、多数のエキスパートシステムの実現
1980年代の第二次AIブームでは多数のエキスパートシステムが登場しいよいよここでAIが本格的に商用利用される様になった
これらのエキスパートシステムは現在でもAMAZONや楽天などのECサイトにおいて評価システムとして使用されているそうです
２００6年から始まり現在も続く第三次AIブーム
そして今現在に至るAIブームが始まったのが2006年から。この2006年にある核心的な技術が生まれたのです。その核心的な技術とは「ディープラーニング」
次の章ではこのディープラーニングおよびに第三次AIブームについて詳しく書いていきます
現在の第三次AIブームそのキモ、ディープラーニングとは
ディープラーニングには光と影がありそうだぞ
ディープラーニングの核心性とは
まずは第二次AIブームと第三次AIブームの中間の冬の時代に起きたひとつのエポックな出来事
それはチェスの世界において1997年に DEEP BLUE がグランドマスターのカスパロフを破った
これは当時おおきなニュースになったのでご記憶の皆様も多いのではないでしょうか
ただし将棋においてはまだまだAIではプロ棋士には歯がたちませんでした
そして2006年、第三次AIブームの始まりです
ここでいよいよディープラーニングと呼ばれる核心技術が登場しました
ディープラーニングのどこが核心的なのか、第二次AIブーム時の手法であるエキスパートシステムと比べるとわかりやすいかもしれません
エキスパートシステムが専門家が専門知識そのものズバリを徹底的に英才教育して叩き込んでそれをルールとして動くのに対してディープラーニングでは知識の取得の仕方と知識の解析の仕方を教え込みます
そのような手法を機械学習と呼びますがさらにディープラーニングでは、ニューラルネットワークと呼ばれる人間の脳の神経細胞を模したモデルを用います
ディープラーニング手法で学習するコンピュータに与えられるのは人間が到底扱いきれない巨大なビッグデータです
これはディープラーニングで学習したAIは作った技術者の劣化機械バージョンではない事を意味しています。簡単に言うと作った技術者のレベルをはるかに超えた専門性を持つ可能性を持っているというわけです
ディープラーニングの危険性とは
ディープラーニングに潜む危険性とは何なのか
ひとつは作った人の思いもよらぬ物が出来上がる可能性があるということ
「こんなアルゴリズムを仕込んだつもりは無いのにどうしてそういう思考になるんだ」という事がディープラーニングで訓練したAIでは実際に起こる事が知られています
もう一つはAIの考えた最善の解が必ずしも人間の利益に繋がらないかもしれない点
例えば、AIに「生物多様性に富む豊かな地球にする為の対策を考えよ」と命題した時、AIの出す回答は人類を壊滅的なほどに減らす事かもしれないという事です
ただしディープラーニング黎明期のこの時代にはまだあまりそんなリスクを本気で考える研究者は少なかったのかもしれません
いよいよ将棋の世界でもAIが勝る時が
2010年にまたしても我々の前にAIに関わるエポックな出来事が起こります
それは
情報処理学会50周年記念対局
挑戦状
社団法人 日本将棋連盟 会長 米長 邦雄 殿
コンピュータ将棋を作り始めてから
苦節三十五年
修行に継ぐ修行 研鑚に継ぐ研鑚を行い
漸くにして名人に伍する力ありと
情報処理学会が認める迄に強い
コンピューター将棋を完成致しました
茲に社団法人 日本将棋連盟殿に
挑戦するものであります平成ニ十ニ年四月二日
社団法人 情報処理学会
会 長 白鳥 則郎
これも当時のIT系サイトでは大きく取り上げられ私も心躍らせたのをはっきりと覚えています。ついにチェスに続いて将棋でもAIは人間を超えるのかと
ちなみに挑戦状を受けた米長会長は「いい度胸をしているとその不遜な態度に感服仕った次第」としながらも挑戦を受けてくれ、当時女流ナンバーワンであった清水市代女流王将との対戦が実現、結果はAIの勝利となりました
その後も将棋AIは着々と進化し2017年ついにAI対名人の勝負を制し人間とAIの勝負はここに決着します
将棋というそこに登場する要素に限りのある閉じた世界にあってはもはやディープラーニング手法という武器を持ったAIにとっては人間は強敵では無くなった
この様な状況の中AIは将棋の様な閉じた世界に留まらずその対応分野を躊躇することなく広げているのが今なんですね
いかにAIが優れたとしても生身の人間にしてギリギリの勝負に持ち込めるプロ棋士が超人的である事は全く変わりません。むしろ以前にも増してプロ棋士への畏敬の念さえ抱きました
AIがどれほど危険なものになるのかは誰にもわからない
ここまで読んだ皆さんはデイープラーニングを覚えたAIはやがて棋士に留まらず人間そのものを脅かすかもしれないというリスクもまんざら無いとは言い切れないぐらいは感じられたのではないでしょうか
では、今署名活動が巻き起こっている様にこのままの無秩序なAI開発を続ければAIは危険な物になってしまうのでしょうか
ここからは私の私見に過ぎませんが、やはり何らかの規制無くこのまま自由にAI開発が進めばやがて危険なAIが少なくとも一つぐらいはこの世に誕生する可能性は高いと思います
汎用人工知能（AGI）の定義や基準については当然これだという定まったものはありません。しかし多くの研究者が最低これは必要ではとするコンセンサスはあるようです
多くの研究者が必要だとするコンセンサスの中でも
汎用人工知能（AGI）は常識を持つ事が必須である
この基準こそが人間がAIに滅ぼされない為の唯一のAIに与える事ができる縛りなのではないだろうか
AIが人間の能力に完全に追いつく日（シンギュラリティ）は2045年とも2025年とも言われています
コメント すみませんが海外スパムが大変多い為手動認証してます。基本、日本語のコメントは全て認証します。