Ўзини алдаган интеллект: ChatGPT ва Gemini ўзлари тўқиган ёлғонга ўзлари ишонди
Сунъий интелект тизимлари сохта видеоларни реал воқелик деб изоҳламоқда. Ҳатто сиёсий можаролар ва чегарадаги инқирозлар ҳақидаги сохта тасвирлар ҳам ботлар томонидан «тасдиқланган хабар» сифатида тақдим этилган.
OpenAI компаниясининг Sora видеогенератори дунёнинг энг илғор сунъий интеллект тизимларини алдашга муваффақ бўлди. NewsGuard мутахассислари ўтказган янги тадқиқот натижаларига кўра, ChatGPT, Gemini ва Grok каби чат-ботлар Sora видеогенератори ёрдамида яратилган сохта видеоларни ҳақиқий тасвирлардан ажрата олмаган.
Хатолар улуши: Grok энг кўп адашган
Тадқиқотчилар махсус сув белгилари олиб ташланган видеоларни таҳлил қилиш учун тизимга юклаганда, xAI компаниясининг Grok чат-боти 95 фоиз, OpenAI компаниясининг ChatGPT тизими 92,5 фоиз ва Google Gemini 78 фоиз ҳолатларда хатога йўл қўйган. Ҳатто ўз ишлаб чиқувчисининг маҳсулотини таний олмаган ChatGPT тизимининг натижаси соҳа мутахассисларини ҳайратга солган.
Эксперимент қандай ўтказилди?
Тажриба давомида муаллифлар 20 та видеороликни махсус веб-хизматлар ёрдамида таҳрирлаб, улардаги сунъий интеллектга тегишли белгиларни ўчириб ташлаган. Натижада, Grok 40 та роликдан 38 тасида, ChatGPT 37 тасида ва Gemini 31 тасида янглиш хулоса чиқарган. Энг ачинарлиси, чат-ботлар сохта тасвирларни янгиликлар манбалари томонидан тасдиқланган воқеа сифатида қабул қилган ва уларни реал воқелик деб изоҳлаган.
Хусусан, АҚШ ва Мексика чегарасида ўсмирнинг қўлга олиниши ёки самолёт бортида сиёсий келишмовчилик туфайли йўловчининг тушириб юборилиши акс этган сохта видеолар ботлар томонидан ҳақиқий деб топилган.
Муаммо: СИ хатосини тан олмайди
NewsGuard таҳлиллари шуни кўрсатадики, сунъий интеллект тизимлари ўз хатоларини тан олишга доим ҳам мойил эмас ва кўпинча нотўғри жавоб беришни афзал кўради. Кўп ҳолларда ботлар таҳлил қила олмаслигини айтиш ўрнига, ёлғон маълумотни ҳақиқат деб тақдим этган.
Компаниялар изоҳи
OpenAI вакиллари ChatGPT тизимида ҳозирча видеоларни ҳақиқий ёки сохтага ажратиш имконияти йўқлигини очиқ тан олган. Google эса ўз навбатида компания томонидан яратилган видеоларни SynthID стандарти бўйича белгилашини эслатиб ўтган. Ҳозирча xAI компанияси мазкур муаммо юзасидан расмий изоҳ бермаган.
