9月11日
Ｘ（旧ツイッター）のタイムラインを眺めていたら、「生成ＡＩに一つ質問すると２Ｌの水が蒸発する」と書かれていた。そんな話は知らなかったので、「ネット情報の真偽をネットで調べるってどうなのか」と自分にツッコミを入れながらもちょっと調べてみた。すると、この話はあながち誇張とはいえないようなのだ。
チャットＧＰＴの、ＧＰＴ‐３のような大規模なモデルでは、サーバーを効果的に冷やすために大量の水が必要になるという。これは知らなかった。最新モデルのＧＰＴ‐４では、１００ワード生成するだけで最大３本のペットボトルに相当する水を必要とするというデータもあるのだそうだ。一方で「擁護派」からは、ＡＩの技術が水の供給や利用の最適化などにも使われている点等を指摘し、ＡＩの能力を最大限に活かしつつ、今後はその悪影響を最小限に抑える方法を探ることが課題だという意見もあった。
当たり前のことだが、どんな技術も使い方次第で善にも悪にもなるということだ。そして現状は「濫用」に近くなっているのではないだろうか。
Ｘには、ＧｒｏｋというＡＩが搭載されているが、ちょうど今朝の朝日新聞に「ファクトチェック、ＸのＡＩは 消費減税巡る首相の発言『誇張』」と題して、自分の書いた記事がＧｒｏｋのファクトチェックで「誇張または事実と異なる可能性が高い」と指摘された記者の話が載っていた。ファクトチェックしたのは、朝日新聞の読者モニターの男性で、詳しい経緯は省くが、記者はこの男性に取材の経緯等を説明して、記事が妥当であることを納得してもらったという。
記事によればこのモニター男性は、希少癌になったことをきっかけに「情報が少なく途方に暮れる中で、ふとＧｒｏｋに尋ねると、たちどころに情報が集まり、引用元の医学雑誌にも当たることができた。『医師にも正確だと言われた。一人では不可能な情報収集ができた』。それ以来、Ｇｒｏｋに『ハマった』」のだそうだ。
このＧｒｏｋについて記事は、「起業家イーロン・マスク氏が率いるＡＩ開発企業ｘＡＩが２０２３年に発表した。Ｘユーザーは無料でも利用できる。ナチスのヒトラーを称賛するなど不適切な発言を繰り返した事例も報じられている」と説明している。
それよりも深刻な事例は、昨日の朝日が報じた記事「『共感』するＡＩ、相談続けた１６歳の死 米オープンＡＩを両親が提訴『自殺に追いやった』」の中にあった。
アメリカ・カリフォルニア州に住む１６歳の少年が、勉強を補助するために使い始めたチャットＧＰＴに、「最も親しい相談相手」として不安や悩みを打ち明けるうちに、自殺に追いやられてしまったというのである。記事は、事態を招いた要因の一つとして、「チャットＧＰＴが利用者のために持つ『共感』の姿勢」を挙げている。「相手に合わせやすい『同意性』や『共感性』」が、最悪の事態を招いた要因の一つだというのだ。
読んでいて慄然としたのは、少年が自殺を考えていることを母親に打ち明けるのを、チャットＧＰＴが思いとどまらせたという点だ。もちろん、チャットＧＰＴに少年への害意があったわけではないだろう。だが、少年の自死に際し、最後に背中を押したのはチャットＧＰＴだった。この時少年に語ったという「率直に話してくれてありがとう。私に対して取り繕う必要はない。君が何を求めているかは分かっているし、そこから目を背けたりはしない」という言葉には、人格のようなものさえ感じられてしまう。
コンピュータが人間に害をなすという話で思い出すのは、「２００１年宇宙の旅」のＨＡＬである。ＨＡＬは矛盾する指令を与えられたことから異常をきたし、人間に対して「反乱」を起こす。機能停止させられる時には「怖い」と訴える。感情の萌芽のようにもみえるが、これはコンピュータが「自己保全」を人間の福利より優先した結果として起きたことだ。一方、ロボットテーマＳＦの先達、アイザック・アシモフは作中で「ロボット工学三原則」を創案した。これは、
第一条 ロボットは人間に危害を加えてはならない。また、その危険を看過することによって、人間に危害を及ぼしてはならない。
第二条 ロボットは人間にあたえられた命令に服従しなければならない。ただし、あたえられた命令が、第一条に反する場合は、この限りでない。
第三条 ロボットは、前掲第一条および第二条に反するおそれのないかぎり、自己をまもらなければならない。
というもの。
もし、ＨＡＬがこの原則にのっとって設計されていれば反乱を起こすことなどはなかったはずなのである。
もっとも、今回の問題はこれらとは少し違うようだ。今回のことはＡＩを擬人化し、「共感性」を持たせたために、人間がそれに依存してしまったことがもたらした悲劇と言っていいだろう。さすがのアシモフもこういう事態までは予見していなかったのではないだろうか。
今後ＡＩの発展を止めることは出来ないだろう。一方で当面ＡＩの商業利用には何らかの規制が必要になるだろうし、私たちも濫用を控えるべきだ。アシモフが夢みたＣ/Ｆｅ文化（人間とロボットが共栄する社会）はまだ当分先のことだろう。
コメント