明日郎の四方山話
明日郎の四方山話
作成日:2024/10/09
@@@ AI界の“ゴッドファーザー” ヒントン博士の警告



https://www3.nhk.or.jp/news/special/international_news_navi/articles/qa/2023/05/15/31594.html


AI界の“ゴッドファーザー” ヒントン博士の警告

「人類の終わりを意味する可能性がある」
そう警告する1人の技術者がいます。
グーグルでAIの製品開発にも携わり、警告のためグーグルを退社したジェフリー・ヒントン博士です。
「ChatGPT」に代表される、質問を入力するだけで、まるで人間が書いたような文章で回答を作成できる生成AI。解き放たれた高度な技術は人々の暮らしを豊かにする一方で、核戦争並みの脅威になりうると警告しています。

世界的な権威がグーグル退社

ジェフリー・ヒントン博士(75)は、イギリス生まれのコンピューター科学者で、半世紀にわたってAI=人工知能、特にディープラーニングの中核となる技術を研究してきた人物です。1980年代に別の2人の研究者と提案した、「バックプロパゲーション」というアルゴリズムの手法の研究で知られており、「AIのゴッドファーザー」とも称される世界的権威です。
2013年からグーグルに入社し、音声によるネット検索機能などAI分野の製品開発に広く携わりましたが、企業による生成AIの開発競争が激しさを増し、AIの性能が良くなるにつれて危険が高まると懸念を持つようになり、2023年4月にグーグルに退社を申し出て会社を辞めました。

「グーグルへの影響を考えることなく、AIの危険性について話ができるようにするため」とツイッター上でその理由を説明しています。

※以下、ヒントン博士の話

高度なAIつくった責任感から辞めた?

もしかしたらそういうことも多少はあるかもしれません。でも、この技術が生まれること自体は避けられなかったと思います。なぜなら私たちにとても大きな利益をもたらしてくれるからです。本当に多くのメリットがあります。人間をより生産的にしてくれるんです。

たとえば創薬の分野では、薬をより効率的に作ることができるようになります。誤った診断もなくすことも可能になるでしょう。洪水や地震などの災害の予測まで、ほぼすべての分野に役立てることができます。

AIが人間の知能を超えると思ったきっかけは?

いくつかありますが1つは、グーグルのAI、大規模言語モデルを使っていた時のことです。このAIがなぜジョークが面白いのかを説明できたのを見て、これは私が思っているよりずっと賢いなと気づいたんです。ジョークがなぜ面白いのかを説明するのにはかなり多くのことを理解できていないと出来ません。

これまで50年にわたって、AIが人間の脳のような働きをできるようにしようと研究してきました。AIのモデルを人間の脳に近づけることができれば、より賢くなれると信じていたんです。

でも突如として、今のAIは脳よりも優れたアルゴリズムを持っていると思うようになりました。


今後のプランは?

私は75歳になりそろそろ引退する時が近づいてきました。50年にわたって一生懸命働いてきたのですから。ネットフリックスでいい映画をたくさん見たいです。

ただ、引退する前に人々に警告したいと思ったのです。人間を超越するAIは、もうすぐそこまでやってきているかもしれません。どう対処していくべきか、解決策を見つけなければなりません。世界中の若い研究者たちの背中を押し、連携して対応していきたいと思っています。

そして若い世代による新しいアイデアが必要なのです。



お問合せ
◆ お 問 合 せ ◆
社会保険労務士法人
       あすなろ人事労務室

 〒550-0014
 大阪府大阪市西区北堀江
          4丁目2番40号
S-1

 大阪地下鉄:西長堀駅C3
  出入口地上階より徒歩1分