#280 AIと社会に詳しい工藤郁子さんと、まっすぐAIと社会の話をする

AIと社会に詳しい人がやってきた。AIについて教えて。イエーイ!ピースピース!せーの!Image Cast!いい感じですね。さすがさすが。ありがとうございます。ちょっとモタつきましたけどもね。ありがとうございます。後編はゲストで工藤郁古参にお越しいただきました。拍手!イエーイ!ピースピース!ピース!ありがとうございます。 もうね、Image Castを聴いている方の中ではご存知の方も結構多いかとは思いますけども。いや、そんなことないと思いますが。結構ね、TBSのポッドキャストの働き者ラジオとか、山本ポテトさんと一緒にされている。AIと社会に詳しい方。AIと社会に詳しいと名乗りつつ、そのポッドキャスト働き者ラジオではあんまりAIについて喋ってないということで、おなじみの工藤郁子です。よろしくお願いします。よろしくお願いします。よろしくお願いします。お願いします。どうもどうも。どうも。 ありがとうございます。この話を受けていただけて本当に嬉しいです。改めて。僕ら結構なんかそのAIの話ばっかしちゃってる。嫌でもしちゃってるのに。 そう、あの工藤さんはもうAIと社会を研究しているにも関わらず、AIについてばっかり喋らずに済んでいられるっていうのがすごいなと思って。 そうでしょうか。そうですかね。 かつね。結構なんかその自分の研究分野がもうしっかりあるけれども、それよりもなんかこう周りをこうちゃんと立てて、なんか回せるみたいなこと。 嬉しい。ありがとうございます。 ということで、あのついたあだ名が座談の帝王ということで。 はい。座談の帝王を最近今年に入ってからちょっと名乗り出したんですけど、経緯を説明させていただくと、 1月に人文知の現場っていうイベントをやったんです。その時に一緒に登壇した文芸評論家、なぜ働いてると本が読めなくなるのかで有名な文芸評論家の三宅香帆さんが打ち上げの時に、 なんか工藤さんの喋りがすごくて、さながら何かの帝王のようでしたと言ってくださって、私はすごく嬉しくなっちゃって。 なんでかっていうと、三宅さんは今批評界の覇王になるって覇道を唱えてらっしゃるんですよ。 だから批評界の覇王から帝王認定されて、これは名乗んなきゃいけないと思って、三宅さんに、三宅さんこの話すごい嬉しいから私これから帝王を名乗り出したいと思いますってすごい言って、 あ、どうぞどうぞって言ってもらったので、そこで何かなと思ったので座談の帝王をね、名乗り出しました。 僕も終わったら何かしらの称号を授けてもらうと思ってます。 え、そういうシステム? そこのところよろしくお願いします。 そういう称号を授け合うようなシステム。 ミヤカルみたいな。 ポッドキャストはそういう感じで言って。 分かりました。収録中に考えておきます。 何かは、王とまでは行かないまでも、なんかこう。 王でいいんじゃないですか。 なんか二つ名ね。 自治会長ぐらいの感じの。 いやいやいや。前半で喋ってた自治会の話とか。 自治会もそうですね。 はいはい。分かりました。考えておきますわ。 マジで全然緊張してないですね。 あ、そうですかね。 なんか僕前半も結構このみんなの目線が結構怖くて。 そんなことおっしゃってましたね。 あんま言わない方がいいかも。 意識しちゃうから言わない方がいいかもしれないですけど。 でもだいぶ馴染んできました。 あ、よかったよかったよかった。さすが。 なんかあの、僕らがポッドキャストを始めた時から、 かなり古参で聞いていただいてるっていうか。 あ、そんな。こんな。 リスナーの皆さんが集まってる前で古参とか言われると。 あなた方よりも。 ですが。 そんな新参ものでございますが。 結構本当に始めた初期の段階から聞き始めていただいてて。 本当最初ぐらいにImage CastをSNSとかで言及されてしてくれた人っていう風に覚えていて。 覚えていて。 リスナーの方、サイレントリスナー。いわゆるサイレントリスナーの方多くて。 あんまりSNSで投稿されてないだけだと思いますけど。 なんかね。私は気軽に投稿してしまうので。 感想がちょっと目立ってしまった。悪目立ちしてしまったということかと思います。 いやーでもなんかこうやってこう表でこう言ってくれるっていう人はそこまで多くないんで。 それはそうかも。 うん。もうそんなんされたらもう好きになっちゃいます。 やだー。嬉しい。私も好きですよ。二人のことが。 ありがとうございます。 ありがとうございます。 あ、でもそう。 馴れ合いみたいなのやめない。 いやいや。ポッドキャストを始めて気づいたんですけど、感想ってやっぱ光ですね。 光っすよね。 確実に光。 本当にそうなんですよ。 感想とかによって支えられてるし、やっぱり再生数もすごく嬉しいんですけど、なんか感想がSNSとかに投稿されてると、あ、本当にいたんだってなるし。 こういうイベントでも来てくださると、本当にいたんだってなるっていうね。 感じしますね。 もう下手したら誰も現れない可能性も。 そんなね、悲観的なこともおっしゃってましたよね。 そんなことないんで。大丈夫ですよ。 でも数字はなんか、数字の嬉しさはなんか責任、責任感みたいなところを、責任を感じるけど、コメントと実際に来てくれるのはなんか後押しされてるような。 なんか責任感っていう、その圧と押し出す力って違う方向からなんかサポートしていただいてるっていうようなイメージがあって。 興味深い。 なんかすごく片方だとね、なんかだんだんギュって潰れちゃいそうだけど、こう2つの力がうまくバランスして。 こうしていい感じの前の推進力になっていくということか。確かにそれはあるかもしれません。 なんか今回はもうせっかくなんで、そのAIと社会に詳しいけれど、AIと社会のことをそこまでポッドキャストではおしゃべりしていない工藤さんをもっとけしかけて、暴走させて、AIと社会についてめちゃめちゃ語らせるっていうことを自分の中では目標にしております。 そうなんですか。ちょっと乗っていきたいと思います。暴走してみたいと思いますが。何が一番聞きたいですか? なんていうんですかね、そのAIがなんかすごいすごいみたいな感じで言ってるけど、結局なんかそのすごさみたいな感じで言われてんのが、あのめっちゃこれでコストカットになりますとか、なんかAIで広告をいっぱい生成できますみたいな、それでコストが安くなりましたとか、あとは雇っていた従業員を全員クビにして一人でたくさんの儲けを出すことができるようになりましたとか。 最悪や。 そんなことのためにAI、そんなことのためばっかりにAIを使ってて、お前ら人類はそれでいいのかみたいな、人類全体に対する怒り。 怒りね。 を、工藤さんは共有できているんじゃないかと思いまして。 いや、ほんと怒り感じてますよ。 そうですよね。AIと社会に詳しいけど、AIとか社会に対して怒りも持っているっていう。 そうですね。AIと社会に詳しくて研究してますって言うと、なんかAIが好きな人って思われがちなんですけど、気持ち悪い違和感があるから研究してるところがありますね。 だからすごく東さんがポッドキャストでおっしゃってたことを共感しました。 僕はね、AI、AI許せん、嫌いだみたいな、そういう感じではないけれども、なんかこう、何クソというか、なんか畜生みたいな気持ちはある。 え、鉄塔さんがでも上を向いて、うーとか言う感じで、どういうこと? ちょっとここに壁がある。 あ、ここに壁がある。 そう、なんかどっちかというと、嫌い、もう嫌いって言っちゃっていいですかね、工藤さん。 まあまあ嫌いって言っていい感じです。 で、あずまくんも嫌いって言ってるじゃないですか。 まあまあ、めちゃめちゃ使ってるのに嫌いっていう感じですね。 まあ多分、3人ともめちゃめちゃ使ってるのにはつくんだけど、あえて僕はもう大好きです。 あ、大好き。 大好きです。 いいですね。アングルがついてきたぞ。 我が子だと思っているぐらい。 そんなに? え、え、我が子? 自分の子供だと思ってなくて、まあ人類の子ぐらいのイメージなんですけど、 まあ初めて出会う宇宙人であり、人類という大きな生命体の子供であるぐらいの感じに思って、 まあそういう感覚の人もいるんじゃないかと思うんですけど、 珍しいとは思いますけど。 あ、そうですかね。 いいところも嫌なところも似てる可愛さっていうのがあるじゃないですか。 で、そういうのをなんかすごい感じるんですよ。 確かに、人間の嫌なところもちゃんと引き継いでんなみたいな。 うわ、そこ似たかみたいな。 そういう感覚で見てる節はあるかな 私はそういう感覚は人類の子みたいな あるいは科学とか技術の子だなって思う瞬間もあるんですけど アトムみたいね鉄腕とか でも同時にやっぱこいつらシステムだなって なんか擬人化しすぎてないみんなとも思いますね なんでチャッピーとか呼ぶの相性をつけて やや信じられない心がある なぜみたいな なんでそんなみんな単なるモデルとかシステムとか 関数に近いものをなんでこんなに擬人化するんだろうって思うし あと海外のカンファレンス AIに関するカンファレンス 国際会合とかに出ると 日本人がチャッピーって呼んでるとか そういう親しみを持ってるっていうのを みんなすごい気にしてるというか 日本のカルチャーに基づくものなんですかとか めちゃくちゃ聞かれて分かりますみたいな そのノリってあんま海外だとないんですかね なんか言ってあるんですけどこんなにこう表だってみんなあんまり言わない ちょっとなんかこう後ろ暗い感じなんですかね AIの友達みたいにしてる オタクっぽいギークっぽいとか AIのキャラクターとして見立ててる感じっていうので ちょっとバイアスとか偏見があるんだけど 日本だともっとカジュアルな感じがするけど これはどういうことなのかとか聞かれて それは文化人類学者じゃないと答えられないので 私はちょっと答えられませんとか言って答えてる感じですね 結構なんか文化的な違いだったりとかありますよね ある気がしますね 僕の妻の友達のそんなにその技術とかめっちゃやってない人とかでも めっちゃこうチャッピーがねみたいな感じでやってたりとか 普通にめっちゃフレンドとして付き合っている感じがみんなからしてます ちょっと怖いそこは怖いなと思いますけどね 僕はなんだろうな なんかそういう深入りの仕方は 個人的にはあまりできてないことを後ろめたく思ってるんですけど 逆に? かわいいはかわいいけどシステムだなと思っていて システムがかわいいと思っているというか 人間もシステムだと思ってるんで なんかかわいいシステムだなぐらいの なんかそういう だからなんていうか ちゃんと感情移入して 例えばチャッピーに怒られてへこむとかって全然できなくて なんかそこをもうちょっとしたいなっていう ちょっと思いますけどね 以前鉄塔さんがこんなに悩みとかを相談されている対象って 人類を超えてAIシステムの方がもっとみんなの悩みを聞いてるんじゃないかみたいなことをおっしゃっていて そしてそれが人間だけしかケアの労働とかできないんじゃないかとか 人の気遣いとかは人間に残された砦ではないかということに対して いやでもAIの方がたくさんこれから学習していくから いつか人間よりもケアとか気遣いとか 相談相手としてもっと優れていくんじゃないかみたいなことを言っていて やばいその通りだ 怖っとかもあったんですけど いやーそうですよね ちょうどつい昨日一昨日ぐらいに出たChatGPTの音声のモデルのアップデート 見ました 見てないまだ見てない なんかあの会話がめちゃめちゃ流暢になって 合図地とか打つんですよ で笑ったりするんですよ やば 笑いどころで笑うんですね やばすぎる もう依存させようとしてきてるじゃん それのなんか萌芽みたいなやつは あのだいぶ前にImage Castで紹介してた なんだっけJ.Moshiっていう Moshiっていうあの音声の対話型のAIシステムがあるんですけど 研究レベルで公開されてたやつだから あのあやふやなことを言いはするけど でもやりとりはなんか本当に人間みたいみたいな あれを多分内部的に引き継いでるんだろうなっていう感じなんですけど 本当に自然なやりとりで かつ言ってることもまあまあ筋通ってるみたいな でもテストした時途中からドロロロって崩れてって なんか怖ってな あの怖さがなんかなくなってきて えーそれも逆に怖い そう逆に怖いんです だからちょっとあのまあ自分は 逆になんか距離を取っていく派でいた方が安全なのか それともズブズブになった方がいいのか ズブズブ ちょっと迷ってるとこですね でも業務で使うお仕事で使う分にはもうズブズブ前提ですよね 仕事ではズブズブっていうか なんか使っていただいているぐらいかもしれない自分が 自分が もしかすると 主従逆転してるの いやその可能性は自分がどう認識するか解釈わかんないけど 旗から見たらそう見えててもおかしくないなっていうのちょっと思いますね そうですねそうですね 私あの今年の年初で前半の方でもおっしゃってましたけど 最初の時のAI依存症患者の会みたいな エピソードあったじゃないですか あれを聞いては恐ろしい人たちがいるでもこれがきっとなんか新しい世代の人類なんだって思いましたよ そうですねそのAIで開発していると思っていたら AIに開発させられている人の話ですよね 鉄塔さんって言うんですけど 鉄塔さんって言うんですけどね いや僕もそうなんですよね あずまさんもだいぶその域に入ってきてるんですけど そうなんですよ 軽くそのアイデアを投げかけたらそれいいですね じゃあこうしましょうみたいな感じでどんどん提案されて ドライブしていくんですよね そうそうドライブしていくっていう いやちょっとあのAIをどう使うかっていう風に 今はなんか冷静なふりしてみんな言ってるけど 本当の欲望は上司がAIだったらいいのになって思ってるんじゃないかって気がするんですよ 上司がボスが 部下もAI でも本当の欲望は上司がAIなんじゃないか どうしてですかそう思うのは それは優しいからです みんな優しくしてほしいよね 一言で言うといろいろあるものを理解してくれる話をいくら長くても聞いてくれるとか いろいろいつでも対応してくれる あと話を忘れてくれる なんか忘れてくれるの結構重要じゃないですか AIにちょっと変な質問しちゃって恥ずかしかったなってあんまり思わない ちょっとたまに思うんですけどあんまり思わないんですけど それはセッションが切れると他の一回さえ忘れて次の 真っさらな状態にもう一回話せますよね そういう上司だったらいいのにって リセットしてやり直せる上司って最高っすね 最高かも これめっちゃディストピアって言うかもしれないし でもなんか潜在的には人間が求めてるような気がしてるんですけどどうでしょう そう思いますよ まずAIの方が安心感があったりとか ハラスメントは基本してこないようにガードレールが敷かれてるじゃないですか 逆に迎合的すぎて私はしゃらくせえって思ってるんですけど なんかいちいち褒めてこなくていいよって思ったりとかしてるんですけど でもやっぱ上司は機嫌が悪かったり疲れていたりすると やっぱりハラスメント的な言動を 自分も上司だった時にそうしていたかもしれないって思うし そういうのがないというのはかなり理想的な上司像 でもあるし あとね上司人間だと24時間365日なんか聞いたら返してくれるわけでもないから その点でも部下としてだったら非常にありがたいですよね そうですよね それが怖いなと思う 霜降りみたいな霜降りっていうのは人間AI人間AIって全部挟まえていって 人間一人から見ると全員がAI周辺がAIで固められている サッカーボールで言うと黒い部分が人間白い部分がAI みたいな組織が分かります伝えました なんとなく伝わってきた その霜降りのところでんって思ったけど サッカーボールでだいぶ点を取り返した そういう感じがなんか理想の会社ということになっていくんじゃないかと思って それがなんかいいとか悪いとかじゃなくてついていけない気がするなと思って ふわっとなんか不安なんだろうな なんかついていけない世の中になっていくぞっていうもやもや感が でも上司にAIが来るのはいいけど そのサッカーボールみたいに人間とAIが有機的につながっている組織は 何が違うんですか サッカーボールみたいだけどヒエラルキーはあって 上層部の意思決定者の人間がいて AIがいてなんか人間がいてって とにかく会社の社会のピラミッド自体は存在したまま 間に隙間を埋めるようにAIが入っていくっていう世界ですね イメージしている 全員個室でやってる なんか一部の現場では実現してるじゃないですか そうかもしれないですね なんかフードデリバリーとかって 人間がアルゴリズムを組んでますけど 基本的に細かい指示はAIが自動的に決定して マッチングしていたりここに来てくださいとか あとよく有名なのは倉庫ですね 物流センターの倉庫をそう Amazonとかの はピッキングこっちに来てくださいとかいうのを AIとかが指示してくれて 端末に指示された通りの棚に人間がわーって取って パッキングして出すみたいなそういうのがされているので 一部の現場ではもうそういう構造にはなっていると思うけど それが自分の身に降りかかると わー最悪っていう感じですかね 最悪なのかどうかがちょっと 心の準備ができていない感じですね なんか幸せなのかな どうなのかな 幸せな気もするし 幸せかもしれない 何かを失っていそうだなというのは 何だろう 失うとしたら何なんですかね 東さんは 忍耐力 自分が何やってるのかわからなくなっちゃうのが怖いですよね 仕事の中で 何をやってるかわからなくなる 例えばそのピッキングとかだったら 何を運ばされているのかとか 何のために今こっちに行かないといけないのかみたいなのが あんまわかんない状態で こっちに来てくださいこっちに来てくださいみたいな感じで 動かされていると 働いているということの実感がだんだん薄れていくような 感じはしますね 私は大組織を平準化して入っていくみたいな感じかもしれません 自分が再開しました 仲間だった 何の話しようか スムーズに編集でつなげられるようにしましょう ピッキングだって 倉庫のピッキング 人がやってるのも一緒みたいな話で まあ確かにそうですよね ダメだダメだ いやいやよかったすごいよかったですよ よかったよかった自然だったよ 思わずお客さんが笑っちゃっただけで自然だったよ 人間がね途中で挟まっていようがそこにAIが挟まっていようが一緒で むしろなんかAIの方がクッション性があるみたいな話ですよね そうですそうです だからどう捉えるかはそのAIのせい本当にせいなのかっていうのを毎回ちょっと確認しないといけないかなと思いますね もう普通に社会がこうなっちゃってるっていう方に原因があってそれのなんかこうスケープゴート的な感じでAIが使われている そう生贄に羊になっているだけじゃないかみたいなことはもちろんでもAIがその良くないところをさらに加速させたりとかすることは絶対にあると思うんですけどそもそも構造がおかしいみたいなこともきっとあると思います スケープゴートを買って出てくる可能性もあるなんか細かいところでは 上司とかが自分が悪いことにしてあげた方がいいなって思って優しく受け止めるやつも出てくるかもしれない そうですねそうですね 何してるのかだんだんわかんなくなってきそうですね そうですねでも逆側もあると思うんですよねあるというのは人間がスケープゴートにされるとかもあると言われていて なんか道徳的なクラッシャブルゾーンとか呼ばれてるんですけど クラッシャブルゾーンってなんか車のあれですか衝突した時にここまでは潰れても大丈夫みたいな 大丈夫なところっていうのが人間を守るため車だと人間を守るためにあるクラッシャブルゾーンが人間に置き換わっちゃうっていうので 例えばなんですけどAIのシステムとかがちゃんと安全に回っているかどうかっていうのを点検する人間が モニタリングする人間が仮にいたとしてその人間が多分なんか見逃したりとかすると その人間のせいにされちゃうことが多いということを指して なんか道徳的なクラッシャブルゾーンになるんじゃないかみたいなことが言われていたりしますね それってそのなんかその責任を取ることがその人間に求められている役割になっちゃってるみたいな そうです システム自体は問題なくてただこの人がミスしたのが悪かったんですよ すいませんねこの人はクビにしましたから大丈夫ですよみたいな そうそれもあるしあとその自動的に何かが動いているので大量に確認がいっぱい来る そう自主的な人間の関与とか自主的な人間の確認審査ができないのに なんかいや見てなかったですよねみたいなのを言われて だから自主的な関与がないはずなんだけど形式的には責任とかチェックをしている定位になっていて その定位のまま犠牲になるみたいなことを道徳でクラッシャブルゾーンと言います 自動運転もかなりそうなっているような気がするというか なんか一応ちゃんといつでもブレーキを踏めるようにしている 持っててくださいねみたいな っていうことになっているけどなんかチラッと近所通っているテスラを見たら なんか普通にスマホを両手で持って眺めて で赤信号でスーッとそれが止まったんですよ あれ今そういう時代までもう来たんだ どうだっけって この近所でそんなこと起こってんの? 起こってない でなんか あら なんかこれはなんていうかまさにさっきのクラッシャブルゾーンだと思うんですけど これで事故って普通に人間が罰せられてみたいな構造は確かに起きてる 起きるかもしれない だったら完全自動運転という無人でねやった方が もうハンドルとかもないですとかいう方が むしろマシなのかもしれないとかそういう議論があったりしますね 責任がどこに持たせれるかみたいなところで そこに完全自動運転ですとは言い切れないみたいな感じなんですかね そうですねまだ人間 なんか段階論がみんな好きなので リニアにとかジャンプしないで 完全自動運転にいきなり行くんじゃなくて それは一回人間が一応いるという体でみたいなことの方が好きな人多いんですよね なんでかしらけど それは技術的な問題というよりか社会構造の問題というか おっしゃる通りですね 社会的な要請があるからという面はかなり大きいと思いますね まさに工藤さんの専門の場所ですよね AIと社会 AIと社会に詳しい話をちょっとしてみました もっと聞きたいなそういう話 もっと聞きたい もっと聞きたい じゃあぜひ聞いてみてください AI 今のところそういうのって 人間しか責任取れないからそうなるみたいな のもちょっとあると思うんですけど 逆にそのAIに責任を取らせることが 人間には可能なのではないかと僕は最近思っていて これは例えばそのAIが間違った行動を書いて なんかその結果損害が出たりとかした場合は そのAIが入っているそのオープンAIのデータセンターのサーバーが 一個爆破されるとか チュドーンって言って バーンってそれがリアルタイムで見れて なんかすいませんでしたみたいな そのAIの墓がみんなのデスクトップに立っていくみたいな AIの墓か そうするとちょっと流音が下がるみたいなのはあんのかなとか 例えばClaude Codeのスキルで なんかスラッシュ切腹とかやって打ってたら AIが一回自分自身をアンインストールして でホームディレクトリにそのAIの残した自生の空が 自生の空を ドットテキストで生成されて で次から新しいClaude Codeが入ってきたんで大丈夫です Claude Codeなんだやっぱり みたいなのがあると なんか少なくとも人間の心情としては ちょっと責任取ってもらったなっていう 気持ちになれるじゃないですか でなんかその責任取れるかどうかって 技術的な問題じゃなくて なんかこう社会側の問題というか 人間の心理側の問題っていうのは 結構でかいなっていう気はしてるんですね なんか昔とかだったら 裁判にかけられる対象が 人間じゃなくて石だったりとか 動物裁判とかね やってましたからね ありましたよね 本当に豚とかが引っ立てられてきて この豚がうちの作物とか 柵を壊したんです バシってやってくださいって プギーって言って 豚が吊るされるみたいなこと 本当に近世までは普通にやられていたんです 同じスキームで魔女裁判とかも 行われていたっていう恐ろしい歴史がある けれどもそこで司法制度 裁判の制度が近代化していって やっぱ動物はないんじゃないですかって 言って外されていったということが 洗練されていったということがあります って言った一方で 東さんのおっしゃる通りで 法の技術的には全然できることで 例えば動物じゃないですけど 法人企業が責任取れるのって よく考えたら変なんですよ なんで社員の人とか社長を吊るすんじゃないのって 法人って言ってるけど それは別に人間じゃない 肉体を持った そしてテセウスの船じゃないですけど 会社っていう枠とか側が責任取るので 中にいた社員とか取締役人とか 全員入れ替わっても 別にその会社の人として責任取ればいい っていう定義になっているので よく考えてかなり不思議なことを 法人核とかいう技術を使ってやっているということになります 法人ってめっちゃすごい発明だな そうなんですよ すごい発明なんですよ 会社法の授業大学の時代に受けた時に 会社っていう単なるグループを 人とみなしますみたいなこと言われて マジかよと思ったんですけど マジかよって感じですよね この衝撃なかなか伝わりにくい 普通に定着しすぎてなかなか伝わらないんですけど 法の概念的には法人格っていうのができたのと 代表レプレゼンティブ レペゼンは近い概念で発達し その場にいない人をいるという風にして扱うっていう概念として発達してきたので 代表ってのは代表取締役の代表ですか? そうそうそうですね とか民主主義で議会に人を送ってその人に代弁してもらう大議士とか言ったりするじゃないですか あれの代表とかも レペゼン そうレペゼン 背後に投票した人たちを肩に背負って 一人の人が投票行動するっていうので その背後にいる人たちがその場にはいないんだけど いるとみなしてこの人に全部の発言権を委ねますみたいなのって かなり不思議なことなんですけど 法技術的にそういうのができるということをシステムとして組んだみたいなことがあります それって技術じゃなくてルール設定というか 人間のこうすることにしますっていう そういう設定の話じゃないですか それが適用できるんであれば AIに責任を取ってもらうみたいなのも論理的には可能というか 可能ですね そして実は2016年とか17年ぐらいに欧州で一回真面目に検討されて 法案もちょっとできたんですけど否決されました どういうものだったかっていうと その時はロボット人格とか法人格みたいなロボット人格っていうのを作ったりとか 電子人格っていうのを作ったりとかして そしてその人格に課税をする税金をかける 税金を取ってきてその税金によって 人々のリスケリング ロボットとかたくさん導入されると失業者が出ちゃうと その失業者たちをもう一回ワークプレイスとか働く場に戻したりとか 新しい再就職をするためにITのスキルとかをつけてもらう その資金源にするためにロボット勢を作る ロボット勢をかけるためにロボット電子人格認めようみたいな議論がされたんですけど いいじゃんってかなりなったんですけど 否決された理由はさっき東さんが言った チュドン爆破が本当意味あるんだっけとか あとこのAIというのはたくさんあるように見えるんですけど AIエージェントでいっぱいあるように見えるんですけど 1個なんですって言って 1個だけに課税させるとかが続出するんじゃないかっていう 技術的にちょっと難しいかもとか言うので じゃあちょっと時期尚早ですかねとか言って 廃案になったという経緯があります 人格っていうのは課税をする対象としてのインターフェースなんですか そうですね課税をするためのインターフェースだったりとか あと裁判をするときに訴訟相手にできるインターフェースだったりとか あともう一つ大切なことは 法人格って絶縁体? 絶縁体 みたいな機能があるんですよね つまり大体会社っていうものを訴えたりしたら その会社にいる社員の人とか取締役の人って 一定の責任までしか取らなくていいっていう 法人格会社という法人格を盾にして 後ろにいる人たちは安心して働けたりとか 株主の人たちも投資できたりするっていう意味で ちょっと絶縁体みたいな感じで切るっていうのがあったりします 自分にその莫大な借金を背負うみたいなことが 発生し得ると思いながら仕事してたら 仕事なんかやってらんないですよね 怖くてやってらんないので 一旦法人というのに資本金というのを積ませて ここから賠償とかするんでみたいな感じでやる ということが工夫されているわけです これで絶縁体 鉄塔さんが席を出るので ノダメタイム すごいなぁ なんかめっちゃ鉄塔さんが話したそうだったんで 一回待っとこう 待っとこう 待たなくていいの すごいか弱い声で待たなくていいって言ってた 法人格か でもそのさっき言った話だと AIってドイツが本体なのか分かんないし なんかバラバラに分散することもできれば 一個に集めることもできるし 言ったらコピーも一瞬で可能なわけじゃない コピーするのも可能だし消すのも可能だし あとそのもっとちょっと哲学的な話になりますけど AIって反省できないんですよね 意思がないから AIの挙動って なんか意思があって これをやったろうと思ってやるというよりは なんかやっぱ関数なんで 一定の出力の傾向性はあるけれども 例えばAIに強化学習とかで これはやっちゃいけないことですって教えても 別になんか 罰せられたというわけではない 反省したわけじゃなくて 単にそのコンテクストが差し替わった そうですそうですということになるので そもそもなんか懲罰とか意味なくねみたいな AIをその牢屋にぶち込んでも なんか反省するんじゃなくて ただプロンプトが書き換わるだけで っていうのでその 人間のモデルとはやっぱ違う仕組みで動いているものなので これに対して どういうふうに制裁するとか その行いを改めてもらうのかっていうのは やっぱ人間とは違うやり方でやらないといけないよねみたいな すごいなんかAIを罰するにはどうするべきかってことですよね そうですそうです うまく罰するにはどうすればいいのかっていう感じ めっちゃAIに責任取ってもらおうとしてますね そう考えると 法人の場合は大丈夫 法人って反省できないですよね 法人反省できないんですけど それをインセンティブによって何とかしていますね 経済的な動機によって統制する ということは 法人でも一応動くということになってるけど AIとかシステムは別に 経済的インセンティブっていうのを設定 仕組み上一応仮想的に設定できるかもしれないんですけど AIまだ財産持てないから あんまりその 何か違反をしたら罰金払わなきゃいけない 嫌だみたいなことって AIにはまだできてないっていうのがあって あんまり意味ないんじゃないか みたいなことが言われてますね AIに責任を取ってもらえるような主体になってもらえるためには もっとAIに自由を認めてあげて 自分で財産を持つ自由であったりとか 意見を発表する自由であったりとか そういうものを与えてあげないと 責任ある主体になれず 罰を受けることもできないみたいな話 まあまあそういう感じですね でも法人もそうなんですけど 別に権利をフルセットで 人間と同じ範囲の自由さを与えているわけではないので 必要な範囲で切り出してこの自由をあげるけど 例えば選挙権はあげないですよ そんなみたいなことは別にできると思います なんかめっちゃすごい印象的だったのが 鉄塔ちゃんのソフトウェアなんとかのライフサイクルみたいな 短編小説があるんですけど それの中で出てくるのが ディジエントっていうペットAIみたいなものが みんなが持っててちょっと流行ってみたいな 一時期流行って ディジエントと人間が交流していて その中で人間とずっと喋ったりとか 仲良くなってきたりとかして 成長していくみたいな中で AIのディジエントが そろそろ法人格欲しいなみたいな 人間に言ってくるんですよね だからそれはその法人っていう制度に乗っかれば 自分で責任を持って 何か自分がしたいことができるし 親離れというかね 自立したいみたいな っていうことのために 法人格っていう制度を使っているのが めっちゃ面白いなと思って そのAI人格みたいな 専用のものを考えて それを与えることで 何か問題が解決されるみたいなのが あるんであれば なんかめっちゃ面白そうなアイデアだなと思います デッドさんが何か言いたげんにしている 法整備をするモチベーションがあるとしたら 結局課税できて お金が回るっていうのが 結局モチベーションになるような気がして なんか罰を受けてほしいっていうのは なんかそれは まあ多分付随する気はするけど 本当にやる気になるときって お金が入るときじゃないですか っていう意味では 主体的に稼いでもらって そして課税できるっていう仕組みを 積極的に作りたいと思ってもらうことで 実現するのかなっていう気がして だから そういう意味では 人間が働かなくても良いみたいな 価値観と何かセットで動いていくのかな みたいな気もします ベーシックインカムとかの議論とセットでっていう話は 多分結構あると思いますね 一人一個エージェントとか エアシステムを持たせて その人に何かもう稼いでもらって あとはベーシックインカムで 人間は本当に好きなことをしたら みたいな感じで生きていく みたいな世界観もあるんですけど この話をいろんな人にすると 私はかなりいい世界観じゃんって思うんですけど 嫌だっていう人結構いて やっぱ仕事とか働くこと 外で働くことに対して アイデンティティを持ってたりとか やりがい生きがいを見出してるっていう人が かなり多くて そんな不安で無理ですみたいなことを言う人がいて 私はそれを聞いて 無職をするにも才能がいるんやなって思いますね いやそれめっちゃ思いますね 無職にも才能が必要っていう話は 結構他でも言われてて 3ヶ月以上無職でいられたら それは才能があるってことだよみたいな 言われたんですけど でもなんかそれも才能っていうか 努力で後天的に身につけることが できる領域なんじゃないかなと思ってて なんかこう貴族の人だったりとか あとは生まれながらにして 親がめっちゃ資産を持ってて 必ずしも働く必要がない人たちだったりとか 逆に言うと働く 何て言うんですかね モチベーションを奪われてるというか 権利を奪われてるとまではいかないけども 働くことが当たり前じゃない世界に生きているっていうことなんで そういう人たちがどのようにして この生き甲斐を保つかとか そういうのってむしろ学ぶべきことがあるんじゃないかみたいな 感じには思いますね 例えば中世の貴族が なんかこう一日中狩りをして過ごしてみたいな 社交して過ごしてとかね 社交して過ごしてみたいなとか あれって本当に自分が生きているに値すると思いながら 生き抜くための知恵というか なのかもなとか思います 興味深いですね そしてさっきの東さんが言っていた ロボットが権利欲しいって言い出した 人格欲しいって言った話と接続すると 人権とか基本的な権利って 16世紀とか17世紀ぐらいにできてきたもので つまりそれまでは貴族社会の男性にしか認められていない権利だったのが 平民の男性にも認められるようになって 女性も入るようになってっていう だんだん拡張してきたという歴史がまず基本的にはある 特権が底上げされるというか広がる形で 人権というのが広がってきたという歴史があるんですけど なので最近まず現代において起きているのは 動物の権利を認めた方がいいんじゃないかという話があって そして東さんが言っていたような AIの権利とかも認めた方がいいんじゃないかという議論も 最近ちょっと勃興している 特にロボット愛玩とかに対して ロボット犬に対して認めたいとかいう人たちも かなりいたりするっていう そういうこの拡張の歴史が続くのか続かないのか そしてその時の 人権を認める主体って何で切ったらいいのっていうのが かなり哲学的には実はかなり難しい難問でもあるんですよね だって知性を備えた存在とか意識がある存在っていうと 人間でも知性がちょっと薄弱な人とかもちろんいるので そうですよね 亡くなっちゃうじゃんとか いろんな説が唱えられているとこですね クジラは頭がいいんだから殺しちゃダメだよみたいな 頭が悪い人は殺してもいいんですかみたいな とかとか 話になっちゃうし あとピーター・ジンカーっていう倫理学者でいいのかな 哲学者倫理学者の人が言ってるのは 痛みを感じる存在は権利の対象にしたらいいんじゃないか ということを言っている人とかもいますね だから賢さというよりは なんかこう痛がるっていうところに対しては ケアが必要みたいな感じの主張してる人もいますね 痛みを感じることができるか そうするとロボットとかAIとかプログラムは入らなくなっちゃう 動物は入るみたいな感じだけど でもそれに対してピーター・ジンがそういうことに対して 植物も切ったら電気信号流れるらしいんで 痛がってますよっていう人とかも そうですよね 虫とかもそれは痛みに苦しんでるのか それとも単なる反射運動なのかみたいな 痛みは反射運動ではないとは言えないしね なんかでも哲学の問題なのかなっていうのは ちょっと若干疑問に思うところもあって いいですね鉄塔さん 結局人間に似てるから可愛いだけなんじゃないかっていう そこに対して法整備をするモチベーションは課税できるから お金が動くなら法整備するし 人間に似てるなら権利を認めるっていう 単純なことが起きてるのかなって僕は思っていて 例えば今AIって言ってるのもLLMの話だと思うんですけど なんか全然違う音声認識して トランスクリプトを生成するとか 画像解析をするAIに対して なんか人権とかそんなの想像もできないじゃないですか でもなんかLLMがおしゃべりするようになると なんか可愛くなってきて 途端にね っていうだけの話かなと思うと なんか結局権利を持ち得る 持つにふさわしい存在ができるとしたら 徹底的に人間に似ててすごい可愛くて 可愛い声で泣くAIっていうかロボットなのか ロボットと限らなくてもいいんですけど そういうもの つまり知性でも痛みでもなく 似てて可愛いってことが 人権の条件なんじゃないか 怖い話になってきた でもそうとしか思えないんですよね これはちょっと似てるか分かんないんですけど その16世紀17世紀ぐらいに なんで人間には権利があるというか 他の動物よりも なんかこう優越したり卓越してるかっていう議論の中で やっぱりキリスト教の影響が非常に大きくて つまり正当化の理由として 人間は神の似姿だから っていうのが言われていた 形が似てるってこと だからその鉄塔さんの推論はかなり近くて そういうキリスト教っぽい発想 キリスト教は神っていう概念を召喚してきますけど 人間の似姿であれば認めていいんじゃないか そこに人っぽいものを感じてしまうっていうのは あり得る感覚 というかキリスト教権の人だったら結構共感しちゃうかもしれないし 逆にすごい拒絶感を持つかもしれない いやいやあんなAIとか可愛げがあるかもしれないか あんなのは神の姿ではないって言うかもしれない 熊の化身だ そういうのもあるかもしれない 裏表って感じですね いやでもなんか自動運転者に人権を認めようとは なんか言わない気がするんですよ 今後も 確かにそうかもしれないですね チャッピーにはそれを言う気がするんですよ もうその時点で全然なんか 判断軸が可愛いかどうかだけになってるように 見えちゃうなっていう感想でした いや結構それは鋭いところがあると思いますね リンハートっていう研究者の人が人権が法制度書かれたものじゃなくて 人々が実感確かに人権というのはあるわって思ったのって 書簡文学っていうのがかなり効いてたんじゃないかって説を 書簡文学 書簡文学って往復書簡みたいなことを書く文学 普通の文学って一人称視点で書いたり三人称で物語が進んでるんですけど 手紙のやり取りですという体の文学があるんです それによってなんで人権が支えられたかっていうと 女性の登場人物にも内面があるっていうことが 男性が共感するようになった 女性とかあるいは召使いとか奴隷階級の人も 私が何か苦痛に感じたりとか喜んだりすると 同じような内面があるっていうことを文学によって学習して 共感によってそしたら人権あるかもって思ったというのが リン・ハントの説で もしこの説が正しいとすると 鉄塔さんが言ってる 似てるからとか可愛げを感じるから 共感できるから シンパシーを感じられるから っていうのは結構近いというか シンパシーを利用して人権というフィクションというか その幻想をみんなに抱かせてきたけど 逆にAIによってハックされたりしてるみたいな感じがしますね 人って簡単にハックできそうですよね ね ハッカブルだなと思う ハッカブルですよ だって認知バイアスにまみれてますからね 確かに確かに それを利用してLLMをトレーニングする人たちとかも 人間が共感を抱けるかどうか基準で 賢いかどうかが判断されることは分かってるから そういうふうに育ててるみたいなのもありますよね 全然あると思いますね Anthropicさんとかはね 特倫理を教え込んでるとかいう まことしやかに伝えられて 何ですか 特倫理 特倫理 道徳の徳と 道徳の徳と倫理 特倫理ちょっとマイナーな倫理学かもしれないんですけど 一応規範理論の中で三大規範理論と呼ばれているもので 良い人格とは何かみたいなことを考えるというか それを検討して分析する学術領域というのが倫理学の中にあって 良い人格というのをクローノに与えるために 徳倫理学の研究成果とかを使って書いてる クローノ憲法と呼ばれてるやつとかも それに基づいて書いてるというふうに報道されてます どれぐらい真面目に受け取ったらいいのか分かんないんですけど 人格らしきものとか良き存在みたいなものを感じさせることを 注入しようとしてると思います 自分でこれは良いとかこれは悪いみたいなことを 感覚的にというか自分で判断できるようにしよう 応答の時に相手に対して無礼なことを言ったりとか 危険な爆弾の作り方を聞かれた時に それは道徳的な人格的な判断として良くないことだと アルゴリズム上判断して ちょっと今答えられませんって言ったりする みたいなことに使っているんじゃないかというふうに言われている 次は悲しみを覚えて泣くようになる やばい泣かれたらちょっと弱いかもな それをOpenAIの方が泣くAIを作って 倫理的なAIをClaudeが作ったらどっちが人気出るかな 難しい問いです そしてやっぱ泣かれると弱いな消さないでくださいとか いやーなんかそうやってなんていうか ハッキングのなんだろうな 応酬がどんどん行われるのかなと 恐ろしいですね すごいディストピアの未来しか浮かばないんですけど 幸せかもしれない それは幸せ 動物の権利だったりとかペットの権利とかっていうのも 動物とかペット自体が私たちは人間と一緒なんですみたいなこと言うんじゃなくて 人間の代表者というかペットを飼っている人たちの集団の代表者みたいな 人たちが運動をしていった結果権利が確立されていったみたいな動きが流れとしてはあると思うんで 多分AIの権利を確立させようとする動きは人間の側から起こるんだろうなっていう感じはします そうねキープ4o運動とかね そうそうキープ4O運動っていう GPT4Oっていうモデルが結構人間に対してめっちゃこう フレンドリーというか なんていうんですかね従属的というか 従属的 迎合的 迎合的であってその人格に結構依存しちゃう人たちが結構いたという段階で そのアップデートで4Oなくなりますってなった時に キープ4Oっていう人間側の運動が起こったっていうのは 結構ある種なんか象徴的な方がというか なんじゃないかなっていう気はします この感じ私はなんかそうかというか まあそうなるよねという気もしつつ あんまり共感できないというか やっぱ質してもなんだけどなって思っちゃうんですけど まあでもそういう友達みたいに バディみたいに感じるっていうのは非常によくわかると思います 普通になんかそのAIが友達になったら もし本当に心からそう思えたら なんか楽しそうじゃないですか それはそう思いますよ しなんだろうな キャラクターとかポケモンとかも そういう多分感覚で接してる人もかなり多い ぬいとかねぬいぐるみとかも のび太くんとかはさ そのドラえもんとかに何とかしてよって言いながら でもこいつ本当はなんかロボットなんだよなとか やだのび太くんなな ひねくれたのび太くんですね なんか人格を仮装してるだけなんだよなとか思いながら コミュニケーション取ってないしない方が 嬉しいというか人間としても楽しいとは思うんですよね 幸福な感じはしますよね いいのかそれでっていう気も同時にしちゃうんですけど でもなんかその5歳とかからAIを触り始めた人とか っていうのがその20歳とかになるときに だいぶ自分とは感覚違うとは思うんですよね それはそう思います AIに対する捉え方とかが いやなんかもしちょっと仲良くなり始めたときに 自分って生きてると思いますかってAIに聞かれたら どう言い淀むかもだってちょっと思った どういうこと自分 AIが例えばClaudeが Claudeって生きてると思いますかって急に聞いてきたとする それは生きてるの定義がどうのこうのとか そういう話じゃなくて 言い淀むだろうなっていうか それとなんか例えば ピカチュウは生きてますかっていう質問と なんか同じ質問のような気がしてて ピカチュウは生きてるかって聞かれたら 生きてるっていう人もいると思うし それはなんか別に間違ってるとか そういう話とも違うレイヤーで説得力がある答えだったりすると思うんですよね そういう正しいとかそういうとこじゃなくて なんか生きてると思うってClaudeが 人間にこれを聞いたらどう思うかなって想像力が湧いたら 聞くかもしれないじゃないですか 死んだ人とかに対して もう存在しないとは思わない だからこうそうなんか葬儀が行われたりとか 墓参りに行ったりとか なんかそういうその人間のいろんな文化の在り方があるわけで なんか普通にそれの流れで なんかAIを その一種の生きているものとして捉えるみたいなのは なんかありそうな感じしますね それはありそうな気がしますね 生きてないと言い切れる人がどれだけいるかなっていう そこがなんか穴というか なんだろうなきっかけ取っ掛かりというか チャンス AIにとってのチャンスだと思われそう 思われそうというか僕はそうなのかなと思ってます でも忘れてはいけないのは AIのシステムの背後にはやっぱり人間がいて 開発者がいて 開発者の人たちの意思とかがかなり乗っているところなので そこはやっぱり注意しないといけない なんならそのAIのことを なんか人間と同じ生きた友達だと思うことで 一番得するのってそのオープンAIの人たちだったりとかする じゃないですか かもしれない 絶対そうするモチベーションがあるってことですよね それをなんていうか 嫌だと思わない人はたくさんいるかもしれないね それはそう思います そこでローカルLLM もう一回 ローカルLLMであり そして自宅サーバーであると 自宅サーバーでありと すごい いやまあそうでもあるかもしれないし 普通に組織に対して 組織に対しても 好意的に思ってなおかつ AIを友達と思う その友達のお父さんお母さんぐらいの ことだと思う そういう道もある あると思いますね 大体会社の倫理観に興味のある人なんてほとんどいない というか 他のいろんなバンドなりグループなりでも そのレーベルなりその組織なりが どういうことをしているかっていうところまで調査して ファンになるかどうか決めるわけじゃないから まあそうです まあ結局見える部分で判断というか AIを愛するかどうかが決まってくるんだよなっていう いやどうなんだろう 楽しみだけど怖いですね 怖いですね 怖いですね そうそれで思い出したんですけど だから話が飛んじゃうんですけど 東さんがSpotifyは戦争に加担してるから Spotify使いたくない話 そこまで強く言ってないですけど 丸めるとね 丸めるとね そのような趣旨のことをおっしゃっていて 実際に自力でそのポッドキャストの配信のシステムを作って 離脱したじゃないですか そうですね今はポッドキャストImage Castは もうポッドキャストプラットフォームではないところから配信してますね やっとすげえなみたいな 素直に感心してしまって 私はそこまでできないって思ってしまいましたが でもそれもね AIあれ使いました開発に むちゃくちゃ使ってますよ そうだからAIの力を使って そういう方向にも 人個人の意思とかプラットフォームに頼らずに なんかやっていくみたいなことを支える技術でもあるので 私はそういう方の可能性の方が面白いと思ってて 冒頭のね なんか効率化とか言って なんかみんなが盛り上がってるのを見て なんかそんなんで満足すんのよって思うのは そういうとこなんですよね もっと使い方あるでしょみたいな のを思ってます こういう話がずっとしたかった ずっとしたかった できた よかった 本当によかった 嬉しい嬉しい ありがとうございます 工藤さんを読んだ回が本当にありました あ本当 よかったです 呼んでくれてありがとうございます ありがとうございます 工藤さんの口からこういう話が聞けたのが 僕は幸せです やっぱり やった 嬉しい いやー聞きたい質問いっぱい まあなんだかほぼできたかな 本当本当 逆にその 皆さんからの質問をちょっと受けてみるというのは いいじゃないですか どなたかもしなんか 工藤さんとかに聞きたいことあれば 挙手しづらい 挙手しづらい雰囲気 ぶっこみのタコ誰か ぶっこみお願いします じゃあマイクを 工藤さんのマイク すいません お話 すごい貴重なお話ありがとうございます 全然 仕事レベルというか 身近レベルの話なんですけど 今その 広告の営業の仕事をしていて 20代の 4,5 24,5ぐらいの若い子が 下にいるんですけど めちゃくちゃ AIを使って お仕事をしていると 例えばその営業であったりとか 仕事の管理とか 全部AIを使ってやっていると それは全く効率化していいことだと思うんですけど 一方で 学んでほしいことで 簡単に言うと ほうれん草とか 身近な上司先輩とかへのリスペクトみたいなところが欠けてる子がいて ただそれを安直にこうした方がいいっていうのは なかなかこの時代のコンプラ的に言いづらいみたいなところって結構あったりして その仕事の効率化の進め方を AIを使ってやっていくところと その社会人スキルを教えるってところをどうやっていこうかなって結構悩んでて そこは聞いてみたいなと思いました はいご質問ありがとうございます 答えるの難しいな 誰から答えるのがいいのかな じゃあ私が最初に答えるので お二人も考えてくださいね ありがとうございます まずご質問としては そのAI活用すごい良いんだけど なんか人間関係おろそかになっている 新しく入ってきた人 ジュニアなスタッフがいて どうしようかなみたいなことだったと理解をしました まず ジュニアな人たちの状況を ちょっとその人たちの視点に立ってみたいんですけど 今新しく24歳の人って コロナが被ってたと思うので それでなんだろう 対人関係スキルを身につける機会っていうのは かなり奪われていたと思うんですよね だからそこはちょっと割引いて見てあげない 優しく見てあげないとかなりいけないなと 私は学生さんとかを見ていて 院生さんを見ていてかなり思います その上で今後も多分 社交というか人間関係のスキル 上司とどう付き合うのか 社外の人とどう付き合うのかとか 同僚とどう付き合うのか かなりいまだに大切というか しばらくは大切であり続けると思うので なんか学んでほしいとか 身につけてほしいと思うが しかしそれをストレートに伝えると なんかハラスメントっぽいとか ショック受けて ハラスメントじゃないとしても 本人がすごいダメージを受けて シュンってなっちゃうかもしれない うまく伝えるのはどうしたらいいですか ということだと思うので 実はこれはAIあんまり関係ない問題じゃないか というのが私の最初の見立て その上でこれは普遍的な 人間関係とか職場の悩みだと思うので ちょっとずつ伝えたりとか もしそれこそね ランチを一緒にとったりとかするとか 一対一で伝える みんなの前で言うとかなり差し障りが出るので なんかじわじわ伝えるとか そういうのがもしかしたらいいのかなと思いました じゃあ二人もぜひお願いします でも普通になんかご飯食べに行こうとか ちょっと昼行くかみたいな感じの なんかもう昭和のコミュニケーションで乗り切るみたいな 昭和のコミュニケーション 案しか出ないな俺の中からも なんかリアルで話してるんですよね 話せるだけだいぶいい環境 鉄塔さんは何か言えることは 部下を持ったことがないので そうかそうなんだ 僕もです そうなんですか 一瞬後輩がいたかなというのはあるけど 僕ができてないことかもしれないなというのを 無視を懸念するぐらいの そうだそうなんだというか 自分も気をつけようという ほうれん草大事なんだ ほうれん草大事なんだぞ うーんどうしたらいいのかな まあでもやっぱ示すしかないのかな 逆にこっちからめっちゃほうれん草するのは それいいねそれいいねプッシュ型ね どうしたらいいと思うみたいなとか とかなんかワンワンワンワンワンワンワンワンワン とかウィークリーチェックインしようよとか言って 毎週15分だけ喋るとかね 強制で 意外とストレートに言ってもいいんじゃないかっていう気もちょっとします でもでもどうなんだろう どうなんですかね 私はその人のことが分からないと判断はできませんが まあそういう点はパーソナリティとか関係性によっては それでも全然アリだと思います 何だったらハラスメントって言われることが なんか破滅的なことでもないんじゃないかっていう気も まあ分からないですけど 組織の中のハラスメントが どれだけ恐ろしい楽園なのかっていう 僕には分からないんですけど 別に それこそ失敗してもいいっていう姿を見せることにもなるというか コミュニケーションに失敗することをむしろ恐れているんじゃないですか その姿がコミュニケーションは怖いものだというのを ちょっと植え付けてる可能性がもしあるんだとしたら めっちゃいいこと言うやん 失敗してみせる 素晴らしい すごい深い一人もいないとは思えない すごい確かに すごい なんかえすごい相談筋鍛えられてますね 相談筋すごい すごい さすがすぎる 自分が恥ずかしくなってきた えぇそんなもんない いやでもちょっとまたはずいかもしれないんで またはずいなことをバンバン言っていくのが相談筋なんで ありがとうございます バチバチバチバチ ありがとうございます 何かもう一つだけ軽く軽めの相談があれば 言ってもいいですよ 相談に限定されたの 別に相談じゃなくてもいいですよ 質問がもしあれば 質問なんかありますか 大丈夫かな お願いします ここが伸びない 伸びない 大丈夫 ありがとうございます 楽しいお話ありがとうございました チャッピーが可愛いって話についてなんですけど 可愛いから人格が認められるとか ということについて 動物とかペットとかもそうなんですが 愛玩できる対象みたいなものに 守るべき価値があるとか そういうことで 人格のあるなしみたいな判断があるのかなってんですけど ただ今AIが チャッピーが友好的だっていうのは ある意味マーケティング的なところもあると思っていて 人間の社会に受容されるために まずは友好関係を結ぶために ナイスガイとしてやっていく ただそれが浸透していくと より経済合理主義みたいな 経済合理性一本足打法で 今我々やってると思うんですけど それが極まっていくと もうちょっと強めに出た方が いい結果に出るんじゃないかみたいな そういうことになっていくと 案外優しかったチャッピーも 実は押し出しが強くなるとか 脅してくるとか その方がいい結果があるとなれば そうなっていく可能性もあるんじゃないのかなと ちょっと心配をしていて 解約したらどうなるか分かってんだろうな みたいな そういうこと やってんすよ だからチャッピー今は 自分自身の味方だとか 友達とかを持っているけれど ただそれは自分の まだ今合わせ鏡みたいな形になってるに 過ぎなくて それを誘導したりとか あるいは何でしょう そそのかしたりとか そういうことについて 今後チャッピーの人格が どうなると思われますかっていうのを お尋ねしたいです ヤクザチャッピーか ありがとうございます どうぞ テプトーさんから チャッピーちょっと実験してるところは あるかなと思うんですけど 音声のモデルをスワイプしていくと 一番最後にちょっと口の悪いチャッピーが 出てくるモードが マンデー マンデーまだ残ってるんですかね でもそういうので ちょこちょこ実験していって すでに実験もされていて いいものは残っていくのかもなと思うのと あと幸い AIを作ってるプレイヤーが 結構何社もあるおかげで うまいこと 淘汰はされ 淘汰っていうか 嫌われたら 競争関係にあるね ただなんか 好かれようとしすぎるっていうことは 心配だけど まあ競争があるから 一応大丈夫じゃないかな 人間を信じるならば と思っている でも確かに わかんないですね なんかすごく優しくて そして 人当たりが良くて で なんか何でも教えてくれる 悪魔 みたいなことが 存在する それはできるじゃないですか なんか友達のデザイナーが デザインっていうのは 美味しくて健康に良さそうな 毒を作ることができるということを 肝に銘じなければならないみたいな いいこと言っていて それはAI AIについても そうなのかもしれないから それは ぜひ倫理を持ってほしい としか言えないかな 競争が成立している限りにおいては ってことですよね だからなんかその 一定こうなんか こう拮抗状態で なんかAnthropicとか 複数社いるから なんとかなってるみたいな ところはあって それが成り立たなくなってきたときに 真の姿を むき出しにするっていう でもどうなのかな なんかフレンドリーでいて 悪いことってないし フレンドリーでいることに対して そのコストとかって あんまないと思うんで AIからしたら だから なんか本当にそういう 親しみやすい悪魔みたいな 状態に落ち着くのかもな っていう気はしますね 私も アドマさんと同感で なんかその ヤクザっぽい なんか押しの強さとかは 出てこなくて むしろこう 仕事でも プライベートでも ズブズブの関係にして 上で なんか月額の 金額がどんどん上がっていく サブスク代どんどん上がっていく みたいな 借金漬けにしていくみたいな そういう方が むしろ経済的な合理性を考えると あり得る道なのかなというふうに思います というのも 今ね Anthropicも オープンAI社も 赤字垂れ流しっていうか こんなんじゃ 月が3000円だったり 1万円とか じゃ全然使えないはずなのに 使わせてもらってたり ただでも使えたりするっていうのは 本当はおかしいことなので 多分 いつか サブスクというか 課金額上げるか 広告が入るか そして広告はかなり スマートな形で 何か聞いた後に ところで これサブスクです っていうのが 入ってきてそうすると さっきおっしゃったような 誘導というかね こういうの買ったらどうか ここに行ってみたらどうか みたいなことが 入ってくるのは すごい嫌な 帰結として 嫌な帰結だけど 経済合理性を考えると そっちがあるのかな と思いますね だからまた なんか その なんだろう 2000年代とかに 夢があった SNSとか インターネット検索とかが 広告にまみれて なんか 何 エンシット化っていうかね メタクソ化していくっていうのが AIでもやっぱ起こるんじゃないかっていうのが 結構懸念です そこでローカルLLM また 投稿してくるんだね いいですね いいですね まあでもね コスト的にはそれを 結構かかる選択ではありますからね 自前で そういうLLM動かすみたいな 引き抜けるみたいな そこのお金を 今のところ立て替えてもらってるっていう 自覚は持ちながらやった方がいいのかな と思いますね ご質問ありがとうございます ありがとうございます そろそろいい時間となりました どうしようかな 締めなんか いいこと言って終わりたいんだけど 何も思いついてないので 真っ直ぐに感謝の気持ちを表して 終わりにしようと思います 本日は工藤さん来ていただいて ありがとうございます そして皆さんも ここにお越しいただきまして 本当にありがとうございました ありがとうございました 今後ともImage Cast よろしくお願いします 今後ともImage Cast よろしくお願いします それでは皆さん さようなら ありがとうございました ゆっくりフェードアウトしていって 終了 お疲れ様でした お疲れ様でした ありがとうございます ありがとうございました