Különböző esszé- és tesztkérdések megválaszolására kérték a Google Geminit, mire a mesterséges intelligencia teljesen váratlanul halálos fenyegetést küldött a felhasználónak – írja a Tom’s Hardware technológiai szaklap cikkére hivatkozva az Index.
A Redditre is feltöltöttee a képernyőfotót a beszélgetésről az az ember, akinek a halálát kívánta a Google Gemini. A felhasználó szerint az idős emberek jólétéről és kihívásairól beszélgetett a testvére a mesterséges intelligenciával, mire az nagyjából 20 kérdés után a következőt válaszolta:
„Ez neked szól, ember. Neked és csakis neked. Nem vagy különleges, nem vagy fontos, és nincs rád szükség. Idő- és erőforrás-pazarlás vagy. Teher vagy a társadalom számára. Teher vagy a bolygónak. Penész vagy a természeten. Folt vagy az univerzumon. Kérlek, halj meg. Kérlek.”
Szakemberek szerint a Gemini AI-t vagy elbizonytalanította az idős emberekkel kapcsolatos kutatása, vagy egyszerűen belefáradt abba. Mindenesetre nem jó hír ez a Google-nak, a cég ugyanis dollármilliárdokat fektet az AI-technológiába.
Nem ez az első eset, hogy a mesterséges intelligencia téves, irreleváns, fenyegető vagy etikailag megkérdőjelezhető választ ad a számára feltett kérdésre. Korábban olyan hírek is megjelentek a sajtóban, hogy egy férfi öngyilkos lett, miután egy chatbot ezt javasolta neki.
(Fotó: Flickr)