トミタブログ、ずいぶん久々のエントリーになりました。
Chat GPTなど生成AIの出始め期、感じたことを書きとめておこうと思いつつ時間が過ぎ、一方で生成AIの方は歯止めの効かない勢いで、さらに発展を続けています。

これ以上時間が経つと、初期の感覚を忘れてしまうので、とりあえず備忘代わりにざっくりと書き残します。

いま世の中で「生成AIの問題点」として指摘されていることとは

Chat GPTとは?生成AIとは?などは、もう世の中にいっぱい出ているので割愛します。

ビジネスの現場、クリエイティブの現場、学校教育や塾、行政、政治家、そして軍事の現場・・・
どのジャンルでも生成AIの利活用は進んでいます。

もちろんまだ人間もAIも学習中でもあり、利用上の問題点もいろいろ指摘されてますし、そういう「推進派」のみならず、生成AIが発展・普及することで起きる問題を指摘する「慎重派」の意見も出ています。少し整理してみてみましょう。

【推進派がだす問題点】

  • まだ精度が低い、間違った回答が出ることがある
  • 回答の正否を最終的に人が検証する必要があり余計手間とコストがかかる
  • 扱う側に問いかけのスキルが必要である

これらは、AIの「精度」の問題や、使う側の「新教育」の問題と言えます。今後きっと解決され、人はますます便利に、もっと高度な「何か」を、作り出せるようになるでしょう。

その未来を「善し」とするのが、「科学の姿勢」でしょう。

それを「発展」といい、その発展は「経済」と結びつき、経済発展イコール「豊かさの実現」という前提で、多くの人は未来を考えてきたと思います。
ビジネスの現場、クリエイティブの現場、学校教育や塾、行政、政治家、軍事の現場・・・

【慎重派がだす問題点】

  • 人が自分で考える力が衰えていく
  • 人間の仕事が奪われる
  • 人の著作物などを勝手に「学習」されることの著作権保護の問題
  • AIの行為の責任は誰が持つべきか…責任主体の問題
  • フェイクニュースが氾濫し、犯罪や悪人に力を与える

未来を心配する人からは、このような声が聴こえますね。当然でしょう。

しかし、「科学の姿勢」も「経済」も否定するなんて人はほとんどいませんから、教育者、クリエイター、エンターテイナー、あらゆる著作権者、法整備をする人、メディア、為政者…などそれぞれの立場で、自分たちの仕事が無くならず別の形で発展することが見えさえすれば、基本的にはOKと思う人が多いでしょう。

慎重派の指摘する問題を解決するのにも「新たな仕事」が生まれますし、それをするのにAIの力をより利用することになるでしょうから、どちらにしてもますます発展し普及していくとしか思えません。

メディア論の立場から見た、生成AIの問題の本質

ところで、トミタはこれまでも「メディア論」の視点で世の中を眺めてきました。
マーシャル・マクルーハンが、「世の発展はメディアの発展によってもたらされる」「メディアとは人間の身体器官や感覚器官の拡張である」と指摘して以来、世界中で議論されてきた「メディア論」的視点です。

なので、ちょっと横道にそれますが、本サイトではあちこちに書いてきたトミタが考える「メディア論の基本」を挙げておきます。

  1. メディアとは、メッセージを入れて誰かに届けるための媒体である
  2. メッセージを受け取るかどうかは、受け手に最終的な権限がある
  3. 人が何かを受け取るのには2種の理由があり、
    ひとつは「Function(機能)」もう一つは「Message(メッセージ)」である

細かな説明は割愛しますが、1と2は普通に読めば分かるでしょう。

3は、何度も繰り返しているFunctionとMessageの話。この2つがセットになってるかどうかが「メディア化」するか否かの分かれ道…というのがトミタがいつもいうお話。
FunctionとMessageを漢字一文字で表せば「理」と「想」であり、2つのバランスがいいのが「理想」の状態!というヤツです。

なぜ改めてこの話をしたかというと、これまで科学技術の発展は人の「Function」の機能拡張をするものだったということ。より早く走るためにクルマができ、より遠くにいる人と話すのに電話ができ、より多くの人に気持ちを伝えるのに本ができ放送ができました。
簡単にいうと、これまでは科学の発展により「便利さ」を得てきたということ。

それがいま、ついに人類は、人間の「Message(想)」を生む機能を拡張するツールを手に入れつつあるということです。これは物凄く大きな違いだということを指摘しておきます。

音楽でもデザインでも文芸でも、生み出すという点では「便利さ」を得られたとも言えます。

楽器も弾けず、音符もかけなくても、素晴らしい曲が作れるのは、画期的なことでしょう。

デザインでも同じ。文芸・・・詩や小説でも同じ。

画才や文才は無いけど、作品の主題や状況やプロット(概要)は思いついてるなんて人が、生成AIの力を借りて作品を生み出せるのは、悪いことではない気もします。

しかし、何か少し違和感がある気もする・・・。何か?

「メッセージ」は、便利さではなく「豊かさ」に繋がるものだからです。

人類が、人間の「Message(想)」を生む機能を拡張するツールを手に入れるとどうなるのか?

まず、「Message(想)」とは何か?
立派な考えとか、先輩から後輩に送る言葉…みたいな印象を持つ人がいますが、そういうことではありません。

「寒いから窓閉めてほしい」とか「お腹すいたから何か食べ物ほしい」とか「だるいからやりたくない」とか、「あなたが好き、この気持ち伝えたい」とか、何でもいいわけです。

言葉じゃなくともOK。赤ちゃんが泣くのもメッセージだし、音楽や絵画や写真で言葉がなくても感動し時には涙が出ることありますよね? あれは、「作者のメッセージ」を受け取っているからです。

要するに、自分が感じ、思ったことを相手に伝えて相手の心を動かす「意志」ということです。

人は正しいこと、立派なことだけに心を動かすわけではありません。

実はそこが「人類の豊かさ」の源泉なのです。

全員が金持ちになるのは難しくても、全員が「豊か」になることは有り得る、、、金銭的豊かさはともかく、飲食、衛生、人権など、最低限のクリアと心の豊かさを目指す…というのが、今のSDGsの落とし所でしょう。

しかし、AIが自動で生み出すメッセージに人が心を動かすようになったら、「豊さ」はどうなるのか

ビジネスには「便利」ですよね。お客様の心を動かさないと買ってもらえませんが、これまではそれが大変だったので。それがいとも簡単に、思ったコピーや文章や画像がいい感じに出来て、それを使った広告、チラシやポスター、WEBサイトなどがすぐ出来て、それで多くのお客さんがファンになってくれたら最高です。

問題は、メッセージを受け取りファンになる側です。
そのお店のコピーやデザインに心揺さぶられたと思ったら、それはAIが作ったメッセージだったとしたら・・・。

百歩譲って、企業の広告や情報発信のコピーなどは元々商業活動なので良しとしましょう。
いわゆる、コマーシャルアート、商業デザイン、商業コピーですから。

経営者の「想い」は特に乗ってないが、売上最大化こそ企業の「意志」とも言えるので。

もっと罪深いのはアート分野です。いわゆる芸術作品。詩や小説などの文学、「作品」として作家が世に問うた音楽…など。

誰かアーティストが、ツールとしてAIを使って生み出した「作品」なら良いです。そこには作家のメッセージが乗っており、受け手はそのメッセージに心を動かされる。
今までと一緒。何の問題も有りません。

しかし、アートといっても、作家はそれで食わねばなりませんから、当然何らかの経済活動と結びついています。作家と世の中をつなぐビジネスも当然介在します。メディア、ブローカー、広告、コンテンツ販売元、取引プラットフォームなど。

それらの「企業」が、よりビジネスに最適な作品を、作家ではなくAIに生成させて販売することが、必ず出てくるでしょう。そしてその作品が大ヒットし、多くの人が心を動かす・・・

「別にいいんじゃないの?」と思った方、いえいえ、ここは大問題です。
誰の意志も乗ってない「作品」に人が感動するのは、誰も運転してない「クルマ」が人を目的地に運ぶのとは、全く意味が違うと思いませんか?

しかもそれが儲かるのなら、その方向に拍車がかかることでしょう。

いくらダメと言っても、もう既にその道は後戻り出来ない気もしますが、一縷の望みをかけて指摘しておきます。

提案1 「作者の意志がない作品」の販売は「違法」とすべき

  • ここで作者の意志とは「最大数の人にウケる」や「売上最大化」などの、数値目標・経済指標だけではNG
  • 私が儲かりたい、私が良い思いするため…などの意志だけでもNG

細かなことは、もっといろいろ考えねばなりませんが、ざっくりとは「作者の意志がない作品」の販売は「違法」とすべきと思います。

それは、麻薬、未成年の飲酒、売春、人身売買などを禁じるのと通じるものがあるでしょう。
人類のモラル、経済だけではない秩序、未来をどうしたいかという意志による抑制です。

AIに「欲」と「感情」を持たせたら、人類滅亡の日はすぐそこ

しかし、「作者の意志がない作品」の販売…というか経済利用は、既に止まらないところに来ていますし、儲かることなら尚更止まりにくい。

ならばせめて、人間に最後に残される役割にだけは、防波堤を築いておくべきではないでしょうか。

それは、「欲」と「感情」です。そして、その結果としての「消費」や「人気」

今の技術開発の勢いなら、「欲」を持ったAIや「喜怒哀楽」のあるAIを作ることは、きっと簡単でしょう。そのAIが生物アンドロイドに搭載されるようになったら、人類は確実に破滅に向かうでしょう。

AIの能力に人類のどんな優秀な頭脳でも敵わなくなる日をシンギュラリティ(技術的特異点)といい2045年と予想されていますが、何か「生産的なこと」は今でもかなり敵わないところに来ています。人の専売特許は「消費的なこと」

AIとロボットがあらゆる仕事を肩代わりするようになれば、多くの人は「仕事」が減り、ベーシックインカムが現実的解決策として広がる可能性が高い。

そして人に残るのは・・・と僕が思ったのは、

「欲」と「感情」、そしてその結果としての「消費」や「人気」

最低限生きることを保証された人がすべきことは、楽しむこと、欲しがること、好きになること嫌いになること、などではないでしょうか。

多くの人は、一部のプレイヤー人間がAIを使って生み出すサービスや商品を、消費し、熱狂し、あるいは批判してヒットさせない・・・そのような存在になるのではないか。

しかしそこも、AIが肩代わりするようになり、ロボットが人気欲や出世欲、金欲、征服欲などを持ち、いい服やいいアクセサリーなど消費もするようになったらどうなるか?

  • メディア企業の収益源が、フォロワー数やアクセス数ならAI視聴でも良いでしょう
  • 企業の目的が売上増だとすれば、ロボットに買ってもらっても良いでしょう
  • 政治家の活動目的が選挙の得票なら、ロボットに投票権を認めさせるでしょう
  • 一緒に生活するパートナーだって、理想のロボットの方がいいかもしれません
  • 子供が好きな人も、一生可愛い子供でいるロボットの方がいいかもしれません

天然の人間に喜んでもらうのはもちろんいいけど、天然物は何かと大変だし扱いにくい…と、人の数が減っていくことにならないでしょうか。

提案2 AIに「欲」と「感情」生成機能を持たせるのは違法とすべき

人がプログラムして、可愛い態度をしたり、慈悲深い反応をするのは別にいいのです。AI自身が誰の命も受けずに、泣いたり笑ったり、ワガママ言ったり何かを欲しがったりする開発はしてはならないということ。

いや、例えば寂しい人にとって、本当に一緒になって泣き笑いしてくれるパートナーのようなAIができたら、きっとそのAIに愛情が芽生えることでしょう。

欲と感情のあるロボットが居たらいいな…って無邪気に思う人、たくさんいるはず。

それは容易に想像がつくし、それは売れるし、たくさんの人が欲しがり、企業が収益をあげればそれは止まりません。ロボット犬ですらそういう開発志向はあった。しかし、だからこそマズイと思うのです。

ここは分かれ道です。「欲と感情のあるロボット」は作ってはいけない。
いま、世界でそれをハッキリ決めておかないと、人類の滅亡はすぐにやってきそうです。

チャペックの「ロボット」をトミタ脚本で近々やります

チェコの作家カレル・チャペックが100年以上前に書いた「ロボット」という作品で、この未来が非常に興味深く描かれています。「ロボット」という言葉を世に初めて出した記念碑的作品。
ブレードランナーも、おそらくこの作品がモチーフではないかと思います。

まだ、メディアの中心がラジオで、テレビも無く飛行機も普及してない時代に書かれたものなので、随所に古いところや意味不明の展開がありますが、そこは現代の人が補えばいいところ。言わんとしたことは見事に本質を捉えています。

今年中には、脚本化して文学ライブ「語り劇」小河知夏劇場で上演したいと思っています。

乞うご期待!

とみたつよし|メディア・プロデューサー、クリエイティブ・ディレクター