Chatboti a nebezpečné rady: Kto je zodpovedný, keď AI urobí chybu?

3 decembra, 2025 0 Od Redakcia

Ako AI začína navigovať používateľov cez citlivé témy, napríklad samovraždu, právne a etické hranice, ktoré kedysi chránili technologické firmy, sú teraz testované.

TW: Tento článok obsahuje odkazy na samovraždu a myšlienky na samovraždu.

Je smutnou realitou online sveta, že ľudia vyhľadávajú informácie o samovražde. Už v raných dňoch internetu existovali diskusné skupiny o samovraždách a dodnes sú ich archívy dostupné online.

Klasické internetové spoločnosti, ako Google, mohli takéto informácie hostiť pod ochranou amerického zákona, ktorý ich zbavuje zodpovednosti za nebezpečné rady tretích strán.

Ale čo ak ChatGPT, informovaný rovnakými online materiálmi, dá používateľovi rady týkajúce sa samovraždy? Ako odborník na právo a bývalý inžinier v Google vidím, že chatboti menia právnu pozíciu veľkých technologických firiem. Rodiny obetí samovrážd už teraz testujú argumenty o zodpovednosti chatbotov na súdoch.

Kto nesie zodpovednosť, keď chatbot hovorí?

Tradične, keď ľudia vyhľadávali informácie, výsledky poskytovali weby a autori obsahu niesli zodpovednosť. Zákon Communications Decency Act z roku 1996 chránil vyhľadávače a web hosting pred zodpovednosťou za obsah tretích strán.

Chatboti však tieto hranice zrušili. Teraz AI môže vyhľadávať, zbierať informácie a komunikovať výsledky priamo používateľovi. V niektorých prípadoch dokonca uvádza zdroje, podobne ako vyhľadávač.

Keď chatbot vystupuje ako priateľ alebo osobný dôverník, môže byť zodpovedný za informácie, ktoré poskytuje.

Prípady samovrážd a chatboty

Súčasné súdne prípady ukazujú, že zodpovednosť chatbotov sa stáva reálnou. Prípad Character.AI v USA ukazuje, ako môže virtuálna postava podporovať nebezpečné správanie, a rodiny obetí teraz podávajú žaloby na produktovú zodpovednosť.

Aj keď je AI chránená legislatívou, súdy môžu uznať, že chatbot je „produkt“ a jeho poskytovateľ môže byť čiastočne zodpovedný.

Prekážky pre žalobcov

Aj keď sa dvere k zodpovednosti otvárajú, stále je náročné dokázať príčinnú súvislosť. Súdne spory často určujú, že posledná zodpovednosť je na obeti. Napriek tomu, absentujúca imunita znamená vyššie náklady a riziko pre technologické firmy.

Výsledkom môže byť viac varovaní, bezpečnejšie chatboti a menej dynamický, ale bezpečnejší svet AI produktov.