Megalkották a pszichopata, mindenben vérfürdőt látó mesterséges intelligenciát

Mindenhol gyilkosságot és halálesetet lát az első "pszichopata" mesterséges intelligencia, amelyet amerikai kutatók alkottak meg.

Az Albert Hitchcock Psycho című filmjének főszereplője, Norman Bates után Normannak keresztelt algoritmussal a Massachusetts Institute of Technology (MIT) kutatói a mesterséges intelligencia veszélyeire igyekeznek felhívni a figyelmet. Norman ugyanis arra példa, mi történik, ha egyoldalú információkkal látnak el mesterséges intelligenciát.

A kísérlet során a szakértők kizárólag olyan tartalmakat tápláltak a mesterséges intelligenciába, amelyek haldokló emberekről szólnak. A tartalmak a Reddit közösségi portálról származtak. Ezután Normannak a pszichodiagnosztika során használt Rorschach-teszthez hasonlatos tintapacaképeket mutattak. A pszichopata Norman válaszait összehasonlították egy "normális" mesterséges intelligenciáéval.

Az eredmények félelmet keltőek voltak

Miközben az "egészséges" algoritmus a képen "szorosan egymás mellett álló embereket" látott, Norman egy ablakon kiugró férfit. Egy másik tintapacában a mesterséges intelligencia egy személyt látott esernyővel, Norman egy "férfit, akit kiabáló felesége előtt lőnek le".

A pszichopata algoritmus embereket vélt látni, akiket áramütés öl meg és akiket elütnek, miközben a másik mesterséges intelligencia madarakat, repülőgépet és esküvői tortát figyelt meg a képeken.

A gépi tanulás során az adatok, amelyeket a gépekbe táplálnak, központi jelentőségűek, "jelentősen megváltoztathatják a viselkedését" - foglalták össze eredményeiket a tudósok, akik azt mondták, céljuk, hogy felhívják a figyelmet a mesterséges intelligencia veszélyeire.

Ha egy algoritmust igazságtalannak vagy elfogultnak tartanak, a tettes sokszor nem a mesterséges intelligencia maga, hanem az adatok, amelyeket betápláltak - magyarázták az MIT kutatói.

A tudósok a norman-ai.mit.edu internetes oldalon bemutatják Norman válaszait, és arra kérik az érdeklődőket, ők is válaszoljanak a kérdésekre, így segítve Norman megjavítását.

Forrás
MTI nyomán
Láttál valami izgalmasat?
Küldd be nekünk!
Szerkesztő:
Balogh Gábor
1
sss
2019. június 18. | 17:12
Az izraeli történész szerint az emberek csak ritkán gondolnak a békére, mivel azt egy közhelyes dolognak, nem valamiféle drága ajándéknak tartják.
1
sss
2019. június 18. | 11:51
A kormányszócső szerint nem Orbán Viktornak ér egy zacskó tésztát az ország.
1
sss
2019. június 18. | 11:07
A Rododendron című kisjátékfilm a rendszerváltás hajnalán játszódik.
1
sss
2019. június 18. | 10:51
A volt focistát, sportdiplomatát a katari vb pályázatával kapcsolatos ügy miatt tartják fogva.
1
sss
2019. június 18. | 10:17
Összesen 17 milliárd forintnyi közpénzt kapott a zöld-fehér klub.
sss
2019. június 18. | 17:12
Az izraeli történész szerint az emberek csak ritkán gondolnak a békére, mivel azt egy közhelyes dolognak, nem valamiféle drága ajándéknak tartják.
sss
2019. június 18. | 11:51
A kormányszócső szerint nem Orbán Viktornak ér egy zacskó tésztát az ország.
sss
2019. június 18. | 11:07
A Rododendron című kisjátékfilm a rendszerváltás hajnalán játszódik.
sss
2019. június 18. | 10:51
A volt focistát, sportdiplomatát a katari vb pályázatával kapcsolatos ügy miatt tartják fogva.
sss
2019. június 18. | 10:17
Összesen 17 milliárd forintnyi közpénzt kapott a zöld-fehér klub.
Láttál valami izgalmasat?
Küldd be nekünk!
Szerkesztő:
Balogh Gábor
sss
2019. június 18. | 14:02
Egyéves mélypontra csökkent az infláció májusban az euróövezetben, és folytatódott a fogyasztói árak csökkenése az EU egészében is – közölte kedden az Eurostat, megerősítve a június elején közölt előzetes adatokat. Magyarországnál csak Romániában nagyobb az infláció.