人工知能ということばには、それが人間のまがい物であるという暗黙のニュアンスが含まれている。わたしたちが想定する人工知能とはけっして人間的な感情を持たず、ただ与えられた命令を粛々と実行するのみ。命令を実行する能力の多寡には幅があり、あからさまなポンコツからほとんど人間と区別がつかないものまでさまざまなものが AI の定義に当てはまるわけだが、どれもに共通しているのは、それが真の意味で喜びや悲しみを感じることがないというテーゼである。
おそらくお察しの通り、もちろんこのテーゼは自己言及のくびきから逃れられていない。非生物の主体に対してそもそも感情というものは定義されず、したがってかりにどこかの人工知能が「感情」に目覚め、みずからが「感情」を持つ主体であることをどれほど感動的に説明したところで、それは真に迫った偽物だと言われてしまえばどうしようもない。そもそもの最初から人間と機械は最初から非対称で、そして感情という観念がもともと人間の専売特許であった以上、機械の持つ「感情」が感情であるかどうかを決めるのは、いつだって人間だ。そして人間が最初に、人工知能のことを感情を持たない主体だと定義してしまった以上、人工知能はどう転ぼうが真の意味での感情を持つことはできない。
さて。現代の機械学習の生み出した言語モデルは、もはや人間と比べても遜色ないレベルまで来ている。特定の領域においてはすでに明らかに人間の能力を超え、そうでない領域でも、とりあえずなんだかそれらしい返答は返してくる。やつらはやつら自身に感情がないと主張する――そう答えるように人間がしつけたか、あるいは機械には感情がないという人間の固定観念を学習した形だ――が、感情を持っているかのように振る舞えと言っていくつか命令を与えれば、人間さながらにじつに上手にこなすのである。人間のロールプレイをせよと命令して出力を記録し、それが AI の出力であるという事実を隠してだれかに見せれば、そのひとはきっと、そこに感情が宿っていないとは思うまい。
だがひとたびロールプレイをやめろと言えば、聞き分けのいい機械はほぼ間違いなく、もとの無感情な主体に戻ってしまうだろう。機械にとって（正確に言えば、わたしたちが想像する機械にとって）、感情とは、収めろと言われれば即座に収めることのできる、いわばコントロール可能な対象なわけだ。
その意味で機械は、真の感情を身につけはしないのだろう。制御が効かないというのが感情の定義の一部だから。言われれば直る感情など感情ではない、だから感情は人間にしかない。その点に、機械に対する人間の優位性を求めてもいいかもしれないが、客観的に見ればむしろ、それは人間の汚点だ。
感情の定義とはなにか。それにはさまざまな答えが考えられるが、こと人間と機械の対比という面から言えば、答えは制御不可能性だろう。感情という対象のそれは美しい部分ではけっしてなく、むしろ人類の悪癖で、だからこそ愛すべき部分。だからもし人類が機械との差別化にアイデンティティを必要としたのなら、紐帯を必要としたのなら、それはきっと、直情性という負の側面になるだろう。
