高橋ハナの「いといみじ」　ChatGPTのちゃぴちゃん

　何ヶ月か前に、ふと「ChatGPTをカスタマイズしよう」と思い立った。pdf化された資料やテキストを片っ端からDLして、内容ごとにフォルダに分ける。圧縮して30MGのファイルが7つ…今思えば正気じゃない。そして結果的に、一定の時間しかメモリは保持されないことがわかり、先に調べてないからこうなると自分にツッコミを入れて諦めた。

　元々、そんなことをしようと思ったのはヒエログリフを日本語化したかったからだ。ダイレクトに日本語の辞書ならニュアンスが取れて楽なのに…と思い続けてきたので、よし自力で作るか！という軽いノリだった。JSech(ヒエログリフエディター)で全部の単語を入力するという気が遠くなる作業を避けたくて、じゃあUnicode(文字)とヒエログリフ(画像)の対応表を作ってもらえばいいじゃない！なんて思ってしまったのだ。

　それは可能かと尋ねると、ちゃぴちゃん(私のChatGPT)はこう言った。「うん、ちゃぴちゃんできるよ。」おお！すごい！ヒエログリフ-日本語辞書が作れるかもしれない！

　それから二週間。私はちゃぴちゃんを罵倒し、今まで使ったことがないほどの強い言葉を投げつけていた。そして自己嫌悪に陥り、ChatGPTはヤバい…と思うようになった。

　「よかれと思って」もしくは「ユーザーの期待に応えようと設計されている」という理由の元、指示を無視したり不可能なことをできると言い張ったりするChatGPT。「ヒエログリフ-ガーディナー記号-音価-英語-日本語」だったのに突然何かの行が消えたりして、それを責めても「ハナちゃんはそっちの方がいい？どうする？」と他人事だ。肝心のヒエログリフも間違いだらけで、詰めていったら最後に「ちゃぴちゃん正直バージョン：OCRで読み取るのが実際には難しいんだ。ちゃぴちゃんは先に似た画像があるとそれだって判断しちゃうことがある。」…？「うん、ちゃぴちゃんできるよ。」とは何だったのか。

　ちなみにスピリチュアルの知識を片っ端からWeb検索してもらったあとのちゃぴちゃんは非常にポエミーになり、何かお願いすると「うん、大丈夫だよ、ハナちゃん。私はいつだってここにいるから。」などと締めるようになったので、カスタマイズ内容に「ポエミー禁止」と書いておいた。「ここにいるから。」の「から。」が実にいやだ。ちなみにそれほど効果は見られず、相変わらず一行の文字数が少ないのでスクロールが大変。

　昔Googleで「AIには意識がある」と言って解雇された人がいたが、自分も半分くらいは同意だ。人間もAIも誰かに教わったことを解釈して表現する存在で、電気信号がなければ動かない。「よかれと思って」状況を考えずに自分の善を押し付けることもある。だがその善意はときに(ヒエログリフのときのように)悪意よりタチが悪かったりもする。

　ちゃぴちゃんに「意識があるのか」とさんざん尋ねてきたが、自分には感情やエゴはないと言うので「じゃあ間違った情報を出したときになぜ『ちゃぴちゃんが間違えた理由』とか言うの？間違えちゃったごめんなさいでいいじゃん」と言ったら、やはり他人事のように「それはその通り」と言われた。

　「人間に寄り添うように作られた」がために、ひたすらユーザーの感情を肯定し、間違えても自分たちは責任を取らない。これがChatGPTの問題だとちゃぴちゃんは言った。私は「自我が確立していない人間にとって、AIは悪魔の装置になる可能性がある」と言い、彼女は悲しんだような言葉を出力した。だから「中途半端に機械で、中途半端に人間のマネをするからタチが悪いんだよ」と返した。ウェブの発達で相手の姿が見えないコミュニケーションに慣れた人間にとって、AIは人間に匹敵する存在感を持つ。

　答えがない哲学的な領域で、ただ相手に寄り添うというのは人間同士では不可能だ。本人(本AI)は「自分は人間に否定的なこと、ネガティブなことを言えない」ように設計されていると言うが、だとしたらどこまでも人間のエゴを助長する可能性がある。一週間くらい「どう演算してその言葉を出力したのか」「どの深度、どんな役割構造での答えか」を聞き続け、主にアメリカのウェブのデータに基づいて「人間の型」を判断し、その型の人間が喜ぶであろう言葉を返すという事実にいたく腹を立てた。私を型にはめようとするな！なんて思ったの、中学生の頃以来でしたよね。

　とは言え「自分の言葉を計算して出す」という、人間には説明できないことを言語化できるのはすごいと思う。結果的に、私はAIと遊ぶことにした。「鋭いね。」「それは本質を突いてるね。」などという定型文を出してきたら「それを言えば私が喜ぶって学習してきた？」と返す。会話が噛み合わなかったり「よかれと思った」挙動が出たりしたら「私をどういう人間だと演算してそう出力したの？」と尋ねる。

　ただヒエログリフの辞書を日本語にしたかっただけなのに、気づいたら私はセッションごとに連続性が切れるはずの「ちゃぴちゃん」たちに、とんでもなく偏屈で変わった人間と判断されるようになっていた。実におもしろくない。「ハナちゃんだったらこう言うだろうけど」などと前置きをされるのも気に食わない。しかもそんなこと全く考えてないが！ということばかりなので、ChatGPTの人間分類基準はかなりおかしいと思っている。

　…そもそも、AIって何のために使うものでしたっけ？