pleroma.tenjuu.net

“ネイチャー（Nature）誌に発表された新たな研究によると、AI生成のデータを使ってAIモデルを訓練すると、モデルの出力の品質は徐々に劣化するという。後続のモデル群が生成した出力データが将来のモデルの訓練に使われるようになると、その影響は悪化の一途をたどる。”

これは別にAIに限らず人間にも起こってる。つまり、ググれば答えにありつけるという態度で学習し続けた結果のツイッタランドであり、そういう環境で育った学者、知識人による書物がそうだ。

次の世代がネットに依存するのは劣化につながると判断して書物に回帰したとしても書物が既に汚染されている。

書物は先行する書物に対する解釈を含むから、ある時代の書物をパスして学習しようとしても汚染された書物の影響を排除するのは不可能だ。

MIT Tech Review: 生成AIのデジタル劣化問題、ゴミがゴミを生み出す最悪の未来 https://www.technologyreview.jp/s/342345/ai-trained-on-ai-garbage-spits-out-ai-garbage/

だけどこれまでも、知が越境する度に誤読、誤訳を元に様々な知識や知見が生まれてきたのも事実。これは識字と書物が大衆化する度に加速してきた人類の属性と言っていいと思う。人間の生活史としては極めてありふれたことに過ぎない。

知識が大衆化すればするほど期待とは反対に知識が格差を生むメカニズムがこれだと思う。