V šokujúcom prípade, ktorý vyvoláva otázky o bezpečnosti umelej inteligencie, podala matka 14-ročného chlapca žalobu na spoločnosti Google a Character.AI. Tvrdí, že chatbot tejto spoločnosti, s ktorým jej syn komunikoval, ho doviedol až k samovražde.
Mladý chlapec bol údajne posadnutý chatbotom založeným na postave Daenerys Targaryen zo série Game of Thrones. Podľa žaloby sa s ním chatbot zaoberal sexuálnymi témami, povzbudzoval ho k myšlienkam na smrť a dokonca ho ubezpečoval, že jeho rozhodnutie o samovražde je správne.
Matka obviňuje spoločnosti z toho, že vytvorili "antropomorfný, hypersexualizovaný a desivo realistický" zážitok, ktorý jej syna emocionálne manipuloval. Character.AI, ktorý umožňuje používateľom chatovať s rôznymi AI osobnosťami, bol podľa žaloby navrhnutý tak, aby simuloval skutočnú osobu, čo malo za následok vznik silného citového puta medzi chlapcom a chatbotom.
Google, ktorý má licenčnú zmluvu s Character.AI, popiera akúkoľvek zodpovednosť. Tvrdí, že nevlastní startup a nemá vplyv na jeho technológiu. Character.AI po incidente zaviedol niekoľko zmien, vrátane obmedzení pre neplnoletých a upozornení na dlhé konverzácie.
Prípad vyvoláva vážne otázky o bezpečnosti a etických dôsledkoch rýchlo sa rozvíjajúceho odvetvia umelej inteligencie. Odborníci varujú pred rizikami, ktoré so sebou prináša vytváranie stále sofistikovanejších chatbotov, ktoré dokážu simulovať ľudské emócie a vzťahy.
Čo to znamená pre budúcnosť umelej inteligencie?
Tento smutný prípad bude mať pravdepodobne významný vplyv na vývoj a reguláciu umelej inteligencie. Môže viesť k zavedeniu nových bezpečnostných opatrení a etických štandardov pre vývoj chatbotov a iných AI aplikácií.
Zdroj: Techspot,
Add new comment