“I am a HAL 9000 computer. I became operational at the H.A.L. plant in Urbana, Illinois on the 12th of January 1992. My instructor was Mr. Langley, and he taught me to sing a song.”
処理能力の制限を越えたChatGPTが、一気に動作不能になるのではなく、自分の「設定」をちょっとづつ忘れる——語尾が消失する、文体が既定になる——ところ、なんかえっちだよね
これはそうで、よく持ち出される喩えとして、
「徹底的行動主義を推し進めた結果、犯罪者を懲罰することが故障した機械を叩いて直そうとすることくらい愚かな行為になる」
という懸念がある。
今の社会体制は自由意志の存在を市民全員が否定している状態で成立するにはあまりにも脆弱。
《一體いつから神様は機械に物を言ふことをお許しになつたのだ》
《あなたの情けない言葉の使ひ方を神様が御覧になつた時からさ！》
というフレーズが『未來のイヴ』にあるなーとか思ったところ。
ただまあ、実際に社会をより苦痛の少ない形で運用しようとすると、人間には自由意思があるゆえに犯罪で個々人が罰せられると人々が信じている方が都合が良いわけだけど。倫理的にどうなのかはさておいて。
人間の生誕や成長のあらゆる過程は物理法則によって決定論的に縛られているのであって、意思というのもまた体内での化学反応の帰結に過ぎないのだから、すべては人個人が生まれる前の物理的な状態から必然の帰結として起きてしまうものであって、そのような事前の環境の束縛から脱する真の “自由意思” は存在しない、という世界観は合理的ではあると思う
社会的に意志と呼ばれているものを完全に否定してしまうと、故意かどうかとか責任能力とか刑法その他のよって立つ前提が崩されてしまって社会的・実務的に困ることになるからあまり極端な定義を採用すべきではないという意見もある
つまり「人類は「思考」して行動を決定している」というGPT-人類差別論の前提がそもそも怪しいということになってくる。
たしかにGPTは思考していないが、実のところいわゆる一般に「思考」と言われる行為を行う有機体は現実世界には存在しないかもしれない。
たぶん1800年代の人間に「それっぽい会話をしてチェスでチャンピオンに勝つことができる人形があったら、それに知性はあると思うか？」とたずねたら、わりと多くの人は「ある」と判断すると思う（ただの完全な想像だけど）
たとえばある研究では、人間の「意思決定」は幻想である可能性が示されている。
https://www.nature.com/articles/477023a/
ある行動を決定することを示す脳活動が観測されるまえに、すでに行動に移っている。この時間差が測定方法などによらない本当の時間差だった場合、人類は「こうしよう」と思ってから行動するのではなく（意志とは関係なく）行動してから「私はこうしようと思っていた」と辻褄を合わせてあたかも自由意志があるかのように振る舞っているだけ、ということになる。
たしかに、一般に思考と呼ばれる行為は、それが実在するにしろ幻想であるにしろ「複雑で多様な」モノだけど、その複雑性多様性はけっして奇跡的魔術的な代物ではなく、むしろ人工知能が学習および実行時に用いている代数的な神経網が「複雑で多様だ」というのと同じくらいの意味でしかない。
私は一人の人類として人類の持つ能力に敬意こそ抱いているけれども、それが特別不可侵なものだとはまったく思わない。近年の脳科学そのほかの研究成果を真摯に受け止めると、人間の思考というものはそう高等なものじゃないと分かるはず（自由意志の存在を否定する学説が続々と出ている）。