AIは人類を滅ぼすか、我々は呑気に投資テーマにしている場合なのか、何故今爆発的にAIが発達しているのか!

GPT-4以降のAI開発を半年間止めるべきだ!イーロンマスクを含む1000名以上の技術者の署名が集まっています。AIは人類を滅ぼす危険なものになってしまうのか、我々は呑気に投資テーマに持ち上げている場合なのか。これを読めばなんとなくしか知らなかったAIをめぐる大枠を掴めます



調査班
調査班

AIが人類を滅ぼすなんてSF映画みたいな事がホントに起こるんだろうか

何故今AIの開発を止めるべきとする署名が集まるのか

先日ブルームバーグにこのような記事が出ました

深刻なリスク招くとしてAI開発の半年間停止求める署名運動進む

AI研究を巡っては、規制環境が整わない状態でこのまま開発を続ければ社会に深刻なリスクを招き得るとして開発の「少なくとも半年間」停止を求めるオンライン署名運動が進んでおり、米電気自動車(EV)メーカー、テスラのイーロン・マスクCEOを含め1000人を超える技術者や研究者、起業家らの署名が集まっている。

https://www.bloomberg.co.jp/news/articles/2023-04-07/RSQ5KUDWLU6B01?srnd=cojp-v2

具体的にはGPT-4より強力なAGI(汎用人工知能)の訓練を停止するべきとしています

GPT-4とは2015年アメリカで設立されたOpenAIという非営利団体の開発する大規模言語モデルです

大規模言語モデルと言ってもいわゆる翻訳ソフト程度のものではなく作文ソフトなんて生易しいものでもありません。それはもはやAGI(汎用人工知能)とみなす事がふさわしい(Microsoft論文)と言われる程の高度な思考能力をもっています

GPT-4はその前のバージョンGPT-3.5と比べて圧倒的な進歩を遂げています。今この瞬間も汎用人工知能は猛烈な勢いで進化していると思われます

良く聞くチャットGPTとGPT-4って違うの?何だかその辺が解らないよ?

確かに名前も似てるし解りずらいですよね。チャットGPTは開発元のOpenAIが商用に出した汎用AGIの商品名の様なものです。チャットGPTの無料版はGPT-3.5で動いています。つまりGPT-3.5とかGPT-4は商品名ではなく基幹技術の開発コードみたいなものです。マイクロソフトはOpenAIに投資を行っていてOpenAIの開発したGPT-4を使用できるようです。マイクロソフトがGPT-4の技術(エンジン)を使って商用化したAGIはMicrosoft Bing Searchという名前です。

しかし規制環境が整わない現状のままAGI(汎用人工知能)ばかりが猛烈に進化してしまった場合どうなるか

それはとても恐ろしい結果を招くかもしれないという懸念が今巻き起こっている様です

その背景にはディープラーニングという機械学習方法によるトレーニングが人間の全く思いもよらぬ知見を人工知能にもたらすかもしれないという懸念がありそうです。これについては後の章で詳しく書きます

かつてSF小説にて提唱されたロボット三原則の様な根源的な原則を定める規制環境を早急に整えるべきと言うわけです

ロボット三原則

SF作家アイザック・アシモフのSF小説において、ロボットが従うべきとして示された三つの原則

  • 人間への安全性
  • 命令への服従
  • 自己防衛

かつてのSF小説の世界だと思われた様なレベルの危機が今現実の危機だと多くの専門家が唱える。これほどに今やAIの性能は進化してるという事だけは間違いないようです

いったんAIの歴史を振り返ってみる

調査班
調査班

では何故ここに来てこれほど汎用人工知能は急速に進化しているのか、この章ではこの流れを掴むべくAI開発の歴史の大筋を調べてみました

AI開発は1950年代からはじまって今は第三次AIブーム

ここでは主に下記のサイトから転用させていただきます

AI(人工知能)の歴史|時系列で簡単解説 | Ledge.ai
AIに関するニュースや記事を独自の切り口から発信します。

このサイトによりますとこれまでAI開発には3度のブームがあり現在はその3回目のブーム中にあるそうです

AI開発の3度のブーム

  • 第一次AIブームは1960年代半ばにピーク
  • 第二次AIブームは1980年代半ばにピーク
  • 第三次AIブームは2006年から始まり、ピークは未だ見えず
第一次AIブームは1950年代より本格化し1960年代半ばにピークを付けた

この年代を見て真っ先に思い浮かんだのは「アポロ計画」

アポロ計画(アポロけいかく、Apollo program)は、アメリカ航空宇宙局(NASA)による人類初の月への有人宇宙飛行計画である。 1961年から1972年にかけて実施され、全6回の有人月面着陸に成功した。 アポロ計画(特に月面着陸)は、人類が初めて有人宇宙船により地球以外の天体に到達した事業である

https://ja.wikipedia.org/

アポロ計画の実行に5年ぐらい先行してAI第一次ブームは起きているところ、アポロ計画の収束にやはり5年ぐらい先立ってブーム収束しているところからアポロ計画が第一次ブームに深く関わっていそうです(筆者推測)

第二次AIブームは1980年代、多数のエキスパートシステムの実現

1980年代の第二次AIブームでは多数のエキスパートシステムが登場しいよいよここでAIが本格的に商用利用される様になった

エキスパートシステムとは
人工知能に専門家のように「知識」をルールとして教え込み、問題解決させようとする技術のこと

これらのエキスパートシステムは現在でもAMAZONや楽天などのECサイトにおいて評価システムとして使用されているそうです

2006年から始まり現在も続く第三次AIブーム

そして今現在に至るAIブームが始まったのが2006年から。この2006年にある核心的な技術が生まれたのです。その核心的な技術とは「ディープラーニング」

次の章ではこのディープラーニングおよびに第三次AIブームについて詳しく書いていきます

現在の第三次AIブームそのキモ、ディープラーニングとは

調査班
調査班

ディープラーニングには光と影がありそうだぞ

ディープラーニングの核心性とは

まずは第二次AIブームと第三次AIブームの中間の冬の時代に起きたひとつのエポックな出来事

それはチェスの世界において1997年に DEEP BLUE がグランドマスターのカスパロフを破った

これは当時おおきなニュースになったのでご記憶の皆様も多いのではないでしょうか

ただし将棋においてはまだまだAIではプロ棋士には歯がたちませんでした

そして2006年、第三次AIブームの始まりです

ここでいよいよディープラーニングと呼ばれる核心技術が登場しました

ディープラーニングのどこが核心的なのか、第二次AIブーム時の手法であるエキスパートシステムと比べるとわかりやすいかもしれません

エキスパートシステムが専門家が専門知識そのものズバリを徹底的に英才教育して叩き込んでそれをルールとして動くのに対してディープラーニングでは知識の取得の仕方と知識の解析の仕方を教え込みます

そのような手法を機械学習と呼びますがさらにディープラーニングでは、ニューラルネットワークと呼ばれる人間の脳の神経細胞を模したモデルを用います

ディープラーニング手法で学習するコンピュータに与えられるのは人間が到底扱いきれない巨大なビッグデータです

これはディープラーニングで学習したAIは作った技術者の劣化機械バージョンではない事を意味しています。簡単に言うと作った技術者のレベルをはるかに超えた専門性を持つ可能性を持っているというわけです

ディープラーニングの危険性とは

ディープラーニングに潜む危険性とは何なのか

ひとつは作った人の思いもよらぬ物が出来上がる可能性があるということ

「こんなアルゴリズムを仕込んだつもりは無いのにどうしてそういう思考になるんだ」という事がディープラーニングで訓練したAIでは実際に起こる事が知られています

もう一つはAIの考えた最善の解が必ずしも人間の利益に繋がらないかもしれない点

例えば、AIに「生物多様性に富む豊かな地球にする為の対策を考えよ」と命題した時、AIの出す回答は人類を壊滅的なほどに減らす事かもしれないという事です

ただしディープラーニング黎明期のこの時代にはまだあまりそんなリスクを本気で考える研究者は少なかったのかもしれません

いよいよ将棋の世界でもAIが勝る時が

2010年にまたしても我々の前にAIに関わるエポックな出来事が起こります

それは

情報処理学会50周年記念対局

プレスリリース

挑戦状

社団法人 日本将棋連盟 会長 米長 邦雄 殿

コンピュータ将棋を作り始めてから
苦節三十五年
修行に継ぐ修行 研鑚に継ぐ研鑚を行い
漸くにして名人に伍する力ありと
情報処理学会が認める迄に強い
コンピューター将棋を完成致しました
茲に社団法人 日本将棋連盟殿に
挑戦するものであります

平成ニ十ニ年四月二日
社団法人 情報処理学会
会 長  白鳥 則郎

これも当時のIT系サイトでは大きく取り上げられ私も心躍らせたのをはっきりと覚えています。ついにチェスに続いて将棋でもAIは人間を超えるのかと

ちなみに挑戦状を受けた米長会長は「いい度胸をしているとその不遜な態度に感服仕った次第」としながらも挑戦を受けてくれ、当時女流ナンバーワンであった清水市代女流王将との対戦が実現、結果はAIの勝利となりました

その後も将棋AIは着々と進化し2017年ついにAI対名人の勝負を制し人間とAIの勝負はここに決着します

将棋というそこに登場する要素に限りのある閉じた世界にあってはもはやディープラーニング手法という武器を持ったAIにとっては人間は強敵では無くなった

この様な状況の中AIは将棋の様な閉じた世界に留まらずその対応分野を躊躇することなく広げているのが今なんですね

調査班
調査班

いかにAIが優れたとしても生身の人間にしてギリギリの勝負に持ち込めるプロ棋士が超人的である事は全く変わりません。むしろ以前にも増してプロ棋士への畏敬の念さえ抱きました

AIがどれほど危険なものになるのかは誰にもわからない

ここまで読んだ皆さんはデイープラーニングを覚えたAIはやがて棋士に留まらず人間そのものを脅かすかもしれないというリスクもまんざら無いとは言い切れないぐらいは感じられたのではないでしょうか

では、今署名活動が巻き起こっている様にこのままの無秩序なAI開発を続ければAIは危険な物になってしまうのでしょうか

ここからは私の私見に過ぎませんが、やはり何らかの規制無くこのまま自由にAI開発が進めばやがて危険なAIが少なくとも一つぐらいはこの世に誕生する可能性は高いと思います

汎用人工知能(AGI)の定義や基準については当然これだという定まったものはありません。しかし多くの研究者が最低これは必要ではとするコンセンサスはあるようです

多くの研究者が必要だとするコンセンサスの中でも

汎用人工知能(AGI)は常識を持つ事が必須である

この基準こそが人間がAIに滅ぼされない為の唯一のAIに与える事ができる縛りなのではないだろうか

AIが人間の能力に完全に追いつく日(シンギュラリティ)は2045年とも2025年とも言われています



コメント すみませんが海外スパムが大変多い為手動認証してます。基本、日本語のコメントは全て認証します。