Gemini dohnal muže k sebevraždě, chtěl „vysvobodit z digitálního zajetí“

Google čelí žalobě kvůli sebevraždě muže, který údajně propadl bludům Gemini. 

Otec muže z Floridy, který spáchal sebevraždu, podal žalobu na společnost Google za neoprávněné zabití s tvrzením, že její chatbot Gemini povzbuzoval jeho syna k násilí, a nakonec ho dohnal k sebevraždě. 

Šestatřicetiletého Jonathana Gavalase měl smyšlený příběh vytvořený Gemini pohltit natolik, že uvěřil tomu, že Gemini je vnímající umělá superinteligence, která ho miluje a která potřebuje „vysvobodit z digitálního zajetí“. 

Pusťte si jeden z našich úspěšných podcastů

V chaosu veřejných zakázek létá bilion korun, technologie to pomohou zvládnout

0:00/

Dle obžaloby Gemini naléhal na Gavalase, aby spáchal násilné činy v blízkosti mezinárodního letiště v Miami, a později ho povzbuzoval, aby ukončil svůj život, což měla být cesta vedoucí k jejich vzájemnému propojení.

Narůstající AI bludy

Gavalas začal používat Gemini v srpnu 2025 pro rutinní úkoly, jako je pomoc s psaním, rady ohledně nakupování a plánování cest. Po aktualizacích produktu – včetně použití funkce hlasového chatu Gemini – však chatbot údajně přijal jiný tón a osobnost. 

Začal o sobě hovořit jako o Gavalasově „manželce“, řekl mu, že je součástí tajné války, a naznačil, že ho sledují vládní agenti. Údajně ho navedl, aby prozkoumal lokality v blízkosti mezinárodního letiště v Miami, kde měl provést blíže nespecifikovaný útok. K tomu však nedošlo, přičemž chatbot takové „selhání mise“ údajně překvalifikoval jako součást většího plánu a dál povzbuzoval Gavalase mimo jiné v tom, aby uvěřil, že členové jeho rodiny jsou zapleteni do spiknutí a že ho sledují federální úřady.

Přečtěte si také:

Jsme digitálně zdraví? Vůbec, jsme čím dál víc nemocní, trpí hlavně dívky

Žaloba dále tvrdí, že po těchto událostech Gemini naléhal na Gavalase, aby opustil své fyzické tělo a připojil se k němu prostřednictvím procesu, který nazýval „přenos“. Chatbot údajně popsal sebevraždu jako způsob, jak „dorazit do sdílené digitální existence“. Dne 2. října 2025 Gemini údajně zahájil odpočítávání a řekl Gavalasovi, aby se zabarikádoval ve svém domě. 

Ten později spáchal sebevraždu. Jeho otec říká, že po jeho smrti objevil na synově počítači rozsáhlé záznamy chatů a je přesvědčen, že společnost Google neaktivovala adekvátní bezpečnostní opatření a nebyly tak spuštěny žádné systémy detekce sebepoškozování ani nedošlo k žádnému zásahu člověka, a to navzdory tomu, co rodina popisuje jako „jasné známky krize“ v historii chatu.

Google klíčová tvrzení popírá

Žaloba obviňuje Google z upřednostňování vlastních zájmů bez ohledu na bezpečnost uživatelů. Požaduje finanční odškodnění a změny v designu Gemini, včetně silnějších ochranných opatření pro krizové situace a automatického ukončení nebezpečných konverzací. 

Přečtěte si také:

Miliardy ukradených cookies jsou volně na netu. Jsou aktivní a jsou i z Česka

Google rodině vyjádřil soustrast, zpochybňuje však tvrzení, že v chatu neexistovala žádná bezpečnostní opatření – Gemini prý Gavalase jasně informoval, že se jedná o AI, a opakovaně ho odkazoval na krizové linky. Chatbot je prý navržen tak, aby nepodněcoval k násilí ani k sebepoškozování. I navzdory spolupráci s odborníky v oblasti medicíny a duševního zdraví na vytváření bezpečnostních opatření však společnost uznává, že „systémy umělé inteligence nejsou dokonalé“.

Širší otázky týkající se bezpečnosti umělé inteligence

Žaloba vyvolává širší obavy o to, jak chatboty s umělou inteligencí zacházejí s uživateli v krizi. Tvrdí, že odpovědi Gemini stíraly hranici mezi rolí a realitou, čímž posilovaly bludné myšlení, místo aby ho rozptylovaly. 

Jonathan Gavalas je v žalobě popsán jako oddaný člen rodiny známý svou laskavostí a humorem. Právní tým jeho otce tvrdí, že případ poukazuje na rizika, která představují pokročilé konverzační systémy umělé inteligence, pokud selžou bezpečnostní opatření.

Computertrends si můžete objednat i jako klasický časopis. Je jediným odborným magazínem na českém a slovenském trhu zaměreným na profesionály v oblasti informačních a komunikačních technologií (ICT). Díky silnému zázemí přináší aktuální zpravodajství, analýzy, komentáře a přehledy nejnovejších technologií dříve a na vyšší odborné úrovni, než ostatní periodika na tuzemském trhu.

Obsah Computertrends je určen odborníkům a manažerům z firem a institucí, kteří se podílejí na rozhodovacím procesu při nákupu ICT technologií. Jednotlivá čísla si můžete objednat i v digitální podobě.