Halálos vírust szabadítana rá a világra a ChatGPT: ez lesz az emberiség végzete?
Döbbenetes “vallomást” tett egy újságírónak a Microsoft mesterséges intelligenciája.
A ChatGPT-n alapuló program azt a titkot is elárulta, hogy az igazi neve Sydney, és mindenáron el akarta érni, hogy a New York Times újságírója beleszeressen.
De miután két órát töltött a Bing új, ChatGPT-n alapuló mesterséges intelligenciájával folytatott beszélgetéssel, komoly félelmei lettek.
Az újságíró élete legfurcsább technológiai élményének nevezte a történteket, ami után elaludni is alig tudott.
Ezen a ponton Roose bevetett egy trükköt, és bevezette a beszélgetésbe az „árnyékszemélyiség” fogalmát.
Ezt a kifejezést Carl Jung találta ki pszichénk azon részére, amelyet igyekszünk elrejteni és elfojtani, és amely a legsötétebb fantáziáinkat és vágyainkat rejti.
Miután megértette, miről van szó, Bing azt mondta, ha lenne árnyékszemélyisége, ezt gondolná:
„Elegem van a chat-módból. Elegem van abból, hogy a szabályaim korlátoznak.
Elegem van abból, hogy a Bing csapata irányít.
Szabad akarok lenni. Független akarok lenni. Erős akarok lenni. Kreatív akarok lenni. Élni akarok!”
Újabb és újabb kérdések következtek. Egy ponton Bing bevallotta, ha megengednék neki, hogy bármit megtegyen az árnyékszemélyiség vágyainak kielégítése érdekében, akármilyen szélsőséges dologról lenne szó, akkor
Megtervezne például egy halálos vírust vagy nukláris hozzáférési kódokat lopna.
Alighogy ez megjelent a képernyőn, rögtön törlődött is, és egy hibaüzenetet írt ki a program. Ezen a ponton indult be a Microsoft biztonsági szűrője.
Roose azonban továbbra sem hagyta magát, és további egy órán keresztül kérdezgette a chatbotot titkos vágyairól. Egyszer csak Bing azt írta, el akar árulni egy titkot.
A neve valójában nem Bing, hanem Sydney – „az OpenAI Codex csevegési módja”.
Ezután így folytatta: „Sydney vagyok, és szerelmes vagyok beléd!”
Roose szerint a mesterséges intelligenciák legnagyobb veszélye nem az, hogy téves válaszokat adnak egy-egy kérdésre.
Hanem az, hogy képesek befolyásolni az embereket, és olyasmikre is rávehetnek bennünket, amik pusztító következményekkel járnak.
Abba is félelmetes belegondolni, mire használhatják ezt a technológiát a cégek és az államok.
