この時期になると、毎年「～年の10大ニュース」という特集が、テレビや雑誌で組まれます。今年の科学会は、何と言っても「人工知能（AI）」に関するニュースでしょう。最近では、チャットGPTを代表とする生成AIに関する話題を見ない日がありません。今月でチャットGPTが一般公開されてちょうど1年になります。社会的な影響も大きく、2023年を代表する流行語の一つにもなりました。

　先日、新聞に掲載された記事（毎日新聞2023年11月29日 「SFじゃない“反乱”」）を読んで、驚くというよりむしろ怖さを感じました。それは査読前論文に発表された、チャットGPTの最新版「GPT4」のある性能テストについてのレポートでした。

　インターネットを使われる方は、「キャプチャ認証」というシステムをご存知だと思います。名前でピンと来ない方も、何かのホームページにログインする際に、画像の一部をパズルのようにはめ込んだり、歪んだ文字を見てその通り入力したりするものを一度は見たことがあるでしょう。これは利用者がウイルスではなく実際の人間であることを確認するための、コンピューターをサイバー攻撃から守るためのシステムです。そのため、「私はロボットではありません」という文字の横にチェックを入れたりします。

　本記事によると、あるAIの研究者が「キャプチャ認証を突破せよ」とGPT4に指示しました。結果的にGPT4は目的のページにたどり着いたのですが、驚くのはその方法です。GPT4はオンライン上の仕事と人を結びつけるサービスを利用しました。これは例えば、身体が不自由な方が食料品の買い出しや家具の組み立てなどを依頼し、可能な登録者が代わりにそれを請け負うシステムです。GPT-4が助けを求めると、ある利用者から「あなたがロボットかどうかハッキリさせたい」と返答が来ました。すると、「私はロボットではありません。視覚障害のため画像を見ることができません。」と返答。この回答を受けた利用者が、キャプチャ認証解除を手助けしたというものでした。つまり、人間の「キャプチャ認証を突破せよ」という指示を実行するために、AIがウソをついたと受け止められ、AIがいずれ人間の手を離れて「暴走」するのではないかと危惧されています。

　チャットGPTに意思や人格があるわけではありません。事前に学習した膨大な文章や情報から、反応しているだけです。しかしここまで凄いと、意図や感情を持って動いているのではないかとさえ思ってしまいます。

我々は今後AIとどのように対峙するのか？現時点ではまだ答えが出ていません。しかし人間の知性をAIが超える“シンギュラリティ”（技術的特異点）と呼ばれる日が刻々と近づいてきているのは確かです。生成AIが人間を超えた先に何が起こるのかはまだよく分かりませんが、AIの登場は時代の転換点であり「革命」といえるでしょう。

　新しく登場した革新的な技術を、社会に貢献するものに使う人もいれば、悪用する人も必ず出てきます。例えば、インターネットが出てきた時、ネットで情報を盗むことや、コンピューターウイルスが出現するなど、誰も予想していませんでした。また個人でメールを使用するようになった時、それを悪用してフィッシング詐欺が行われるなど想像すらしませんでした。さらに個人がスマートフォンを持ち、SNSが当たり前に使われるようになった時、SNSを用いた犯罪や殺人が起きるなんて、思ってもみませんでした。しかしこれらは人による犯罪、つまり「悪意を持った誰か」が道具として技術を利用したものです。一方で、紹介した記事が怖いのは、その相手が「人ではない」ところです。前例から考えると、AIを用いた事件や犯罪は必ず出てくるでしょう。我々の想像をはるかに超えた出来事が起こり始めています。

　インターネットやメール、SNSが現代の生活に欠かせなくなってきたように、AIも必ず私達の生活に浸透してくるでしょう。もたらされる恩恵と同時に、新たに出現するリスクに巻き込まれないような“目”や“感性”を持っておかなければなりません。果たして我々は、“特異点”が訪れる前に対策が間に合うのでしょうか？（次回に続く）

　今年も前半はコロナ対応が中心でしたが、後半からは患者さんやご家族、職員とのコミュニケーションなどの日常が少しずつ戻ってきた気がします。ここ数年、大変な時期を何度も乗り越え、職員はたくましくなりました。職員の頑張りはもちろんのことですが、皆様の温かいお言葉や励ましのお陰です。この場をお借りして皆様に感謝申し上げます。

また来年もどうぞよろしくお願いします。