AIさくらさんに対するメモ書きみたいなもの
AIと言われる何かが社会実装された時に、どのような問題が生じるのかを考える上でAIさくらさんは非常にわかりやすい提起をしてくれたと思う。
しかし、私自身はこれをテキトーにつなげて考えたのであまりまとまっていません。すんません。
簡単な流れ
①AIさくらさんがいるみたい。
②高輪ゲートウェイ駅で導入されたみたい。
③なんか炎上しているみたい（炎上？）
④この炎上ポイントを整理したいんだけど、みんなどこに怒り（怒りなのか？この辺もよくわからない。おかしさや違和感という感じでマイルドにしてみようか）をぶつけているかわからなくなってきた。それは
・「AIさくら」そのもの
・「AIさくら」の開発者
・「AIさくら」の開発者に依頼した企業
・「AIさくら」に対して不快な質問をしている人
・「AIさくら」に対して不快な質問をしている人に対して違和感を感じている人
これらの批判が結構複雑怪奇にぐるぐるになってるのだ。表現の自由を持ち出すパターンもある。、過剰反応とかそういう意見もあってややこしい。
「AIさくら」に対して不快な質問をしている人の違和感はわかりやすい。「機械に対してもそういう質問をするもんでない」。そしてそこから「大体なんでそういう会話をできるようにしておいたんだ」という話に持っていくのは容易である。だってこれAIさくらという人格が存在してそいつが勝手に生み出したわけじゃなかろうて、後ろにそのような設定をした開発者がいるってことなのだから。そしてそれにOKを出した人間がいるってことなのだから。そういう発言を許容できる企業や社会って変じゃないかという問題提起である（と思っている）
これは「AIさくら」に対しての違和感よりも、それらの行為を許容している社会に対しての違和感である。*1
もちろんこの違和感に対して批判や対案があってもしかるべきだ。*2
例えば相手が機械という立場を利用して、AIによって人間に対するセクハラを防いだという言い方をすればどうだろうか。人間中心で考えると、そういう発言をすべて機械に受け流すことができ、人間に対する被害を防げるだろう。
ところがだ。機械に対してだから何をしてもOK、機械が言ったから何をしてもOKというのは、あり得るだろうか。少しこの前も、後者の意味で議論があった。
では、前者に対してはどうだろうか。
少し前の記事だが、ロボットに蹴るという行為を加えても、ロボットは安定しているというデモを紹介していたが、批判もあったらしい。
「ロボット犬」蹴り飛ばすのは虐待!? 「ドラえもん」も巻き込み議論が白熱 : J-CASTニュース
実態を伴ったから問題視されたのか、そんなことはない。架空の存在であっても、それは問題化する。ある学会が（機械だからこういう表現も可能ですよね系）問題で炎上したのだ。学会「表紙」に対してである。
JSAI表紙問題はなんだったのか
昔（といっても６年前の話だけれど）にこういう事があった。
ほうき持つ女性型ロボットの表紙 人工知能学会の「お詫び」、過剰反応では : J-CASTニュース
（あまりいいまとまりかたをしたニュースがないな・・・）とまあ、炎上したのだ。
これに対して、JSAIはこのような回答をした。
「人工知能」の表紙に対する意見や議論に関して – 人工知能学会 (The Japanese Society for Artificial Intelligence)
「ロボットが女性型をしている」「それが掃除をしている」「ケーブルでつながれている」等の要素が相まって、女性が掃除をしているという印象（さらには女性が掃除をすべきだという解釈の余地）を与えたことについては、公共性の高い学術団体としての配慮が行き届かず、深く反省するところです。
当時すでにルンバがあって床掃除ができた時代、掃除をするという行為に「人型」でしかも「女性」をもってくる必然性なんてなかったのだ。もちろん製作者に何らかの差別的意図があったわけではない（同サイトから、製作者の制作意図が読める。ぜひ読んでいただきたい）。
この時人工知能学会はおそらくこういうことを学んだはずだ。
「インタラクションを生むために親和性は重要である。ところが、この親和性が社会・公共の場に出たときに、どのような解釈を与えるかは別問題である。」という点である。この問題は表紙だけであったが、実研究・実装にも延長されるテーマであったと思う。*3
サブカルチャーのよる親和性向上は研究においては評価可能であり、ポジティブなものとして受け入れられたかもしれないが、社会においてはどのような意味を持ちえるかは、さらなる検討が必要だったはずだ。*4
この場合の「AIさくら」はその社会実装の前段階に、様々な人の視点が必要だったはずだ。親和性によってどういう振る舞いを人間はしてしまうのだろうか。特にジェンダーステレオタイプを意識するようなデザインやインタラクションを引起す場合。「親和性が高いが人間ではない存在がいた時、人間にはできないようなコメントをする人間がいる。そしてそのコメントを受け入れられる社会ではない」と気付くならば、そういうコメントに対する、プロテクトは組み込めたかもしれない。
JSAIの表紙問題は、ロボット・AIエージェントが研究者界隈の考えでは足らない（かもしれない）「実社会」がつねに存在しているという視点を与えていたはずだ。エージェントを作るということ、ロボットを作るということは、決して独りよがりのものではなく、社会からどのように見られているかを考える必要があるということを。
ところでロボットの性差とはなにか？
ところで今回私が議論したいのは、ロボット（もしくはAI）に対して性差とはどのように現れるのかということなのだ。なぜか。画面に映って対応してくれるエージェントにさえこのような反応があるのだ。性差というものを要素（こういう役どころにはこういう性別が親和性いいよね〜）ではなく、１つの立派な概念として考える必要があるのではないか（そもそもロボットに性差を組み込むことは現代の社会的にどういう評価を受けるのだろうか）。
もしロボットだけの世界だったら、ロボット達だけに決めてもらえば良い*5。ところが今回は人間を含む巨大ループである。そういうした時、機械の性差とはどのようなものとして現れ、捉えられる必要があるのか。
うー。続きは後編で・・・。やるのかなぁ・・・。
*1:私はこう解釈している。だけど、それがすべてかと言われればそうじゃないかもしれない。僕はフェミニストでもないしその方の研究については専門外だから発言する責任を持ち合わせていない。僕ができるのはせいぜいなぜこのような問題が発生するのかを考えるだけだ。あと、僕は普通に可愛いキャラクターがいたら嬉しくなる
*2:ところがネットに上がっているこの上記の違和感に対して誠実な回答をしているのかと言われれば、なんとなく引っかかる点がある。
「クローズドな環境だからいいじゃないか」
「表現の自由だ」
「AIさくらが可愛そうだ」
これらは上記の違和感に答えているのだろうか？いやおそらく答えていないだろう。違和感に対しては、誠実にその違和感の原型を解き明かすしかないのだから。
というか、その考え方感じ方きめえみたいなこと平然と言えるのどうなのか。というかそういうふうに言うから悪意増長するんでない？というかTwitterでの議論は他者性を入れないから、個人対決になっちゃうところが問題だと思う。なんだかな・・・。
*3:この後人工知能学会が表紙に対してどのように考えているかについては、大澤博隆. (2015). 2015 年表紙更新にあたって: 前年の 「表紙問題」 のまとめとこれから (アーティクル). 人工知能, 30(1), 2-6.を参考に。
*4:そのためには事前に炎上を経由することも必要かもしれない。そうした「安心して炎上できる場」をいかに作るかが大事なのかもしれない。安心して炎上できる場については→
*5:と思っている私の人工生命ラディカル主義が心のどこかで存在している
