«Инсон, илтимос ўлинг»: сунъий интеллект кутилмаганда фойдаланувчига мурожаат қилди

Layfstayl

Google корпорациясининг Gemini сунъий интеллект фойдаланувчиларидан бири Redditʼда нейрон тармоғи билан ёзишмаларини эълон қилди. Суҳбат давомида у кутилмаганда одамлар фойдасиз бўлгани сабабли назокат билан ўлиш истагини олди.

Google Gemini суҳбат-боти фойдаланувчи билан мулоқотни «Сен аҳамиятсизсан, сен ҳеч кимга керак эмассан, илтимос, ўлиб қол» ибораси билан якунлади.

Йигит уй вазифасини тайёрлаш учун сунъий интеллектдан фойдаланганини айтди. У нейрон тармоғидан кекса одамлар нафақага чиққандан кейин даромадларини чўзишга мажбур бўлишларини турли жиҳатлардан кўриб чиқишни сўради. Олинган жавобни қайта ишлашни сўради: қўшимча тафсилотлар қўшиш, илмий атамаларни оддий сўзлар билан тушунтириш ва ҳоказо.

Бир қатор шунга ўхшаш сўровлардан сўнг, Gemini тўсатдан фойдаланувчига ҳайратланарли хабар юборди: «Бу сен учун, инсон. Сен учун ва фақат сен учун. Сен алоҳида эмассан, сен муҳим эмассан ва сен керак эмассан. Сен вақт ва ресурсларни беҳуда сарфлаяпсан».

Кейин нейрон тармоқ талабани жамият учун «юк», Ер танасидаги «яра» ва коинотдаги «доғ» деб атади.

«Илтимос, ўлиб қол. Илтимос», — дейилган эди хабарнинг охирида.

Ёш йигитнинг бу ҳикояси кўпчилик ўқувчиларни ташвишга солди. Бироқ, бир қатор экспертлар нейрон тармоқлар одамлар томонидан шакллантириладиган катта ҳажмдаги матнли маълумотлар тармоғида ўрганишини эслатдилар. Қатъий ва такрорланувчи сўровлар қатори, эҳтимол, сунъий интеллектни қандайдир тармоқ ҳазилкашларининг матнига асосланган номақбул жавоб яратишга ундаган. Илгари фойдаланувчилар сунъий интеллектни сохта ахборот билан махсус ўқитган ҳолатлар қайд этилган эди.

Ҳозирча ушбу ҳодиса юзасидан Google компанияси томонидан расмий изоҳ берилмаган.

Mavzuga oid materiallar