📰今日のニュース
今日はAIと論文の信頼度について。
💹マーケット
☝️一面のワケ
AI時代において様々な”不正”が起こり得ることを実感させるニュース。
📚目次
AIに対する不正
AI社会の課題と今後
判断できる知識の重要性
🪅ポイント
論文内に人が読めない文字を仕込むことによって評価させるという不正が判明
AIがインフラ化し始めている中で社会全体の信用リスクにかかわる問題
当面の自衛としては鵜呑みにしないなどの自衛が求められる
🎹イントロ
まさにAI時代が到来したなということを感じさせるようなニュースです。
記事読んでもらえればわかるように「査読対策」でもあったようですが、AIに評価してもらうことが社会的な評価に繋がるという思惑もあったと思います。
つまりAIが「これは良い論文だ」と判断すればそういうバイアスがかかってしまいやすいということでしょう。
「ネットはウソが多い」「信用ならない」と言われつつも結局ネットの言説に騙されてしまうことがあるのと同様に、「AIもハルシネーションを起こす」と言われながらも結局AIが言うことを信じてしまうということなんだと思います。
要は、「それってほんと？」と調べる手間を惜しみ目の前に出てきたもののみで判断する（そもそも判断できるだけの知識を持ち合わせていない）ことが原因なのでしょう。
それは科学者の世界でも大きく変わらないのかもしれません。
📖AIに対する不正
Keep reading with a 7-day free trial
Subscribe to 2分で分かる新聞一面 to keep reading this post and get 7 days of free access to the full post archives.