FoloToy to zagraniczna firma produkująca zabawki połączone z systemem Open AI. Jakiś czas temu do sprzedaży trafił miś "Kumma", który był wspierany przez chatbota GPT-40. Po przeprowadzeniu testów dyrektor generalny singapurskiej spółki był jednak zmuszony wycofać uroczego pluszaka z rynku. Okazało się, że niedźwiadek miał wgrane za słabe zabezpieczenia chroniące przed niewłaściwymi treściami. Dzieci mogły dowiedzieć się od niego rzeczy, które nie są przeznaczone dla ich uszu. Nawet niektórzy dorośli byli zaskoczeni tym, jak chętnie zabawka przekazywała niemoralne treści.
Sztuczna inteligencja w przemyśle zabawkowym. Pluszowy miś musiał szybko zniknąć z rynku
W dzisiejszym świecie trudno obyć się bez sztucznej inteligencji. Nawet dzieci są już uczone, jak posługiwać się tym narzędziem. Miś "Kumma" miał być przyjaznym pomocnikiem, który dzięki interaktywnym funkcjom powinien wspierać rozwój dzieci.
Od ożywionych konwersacji po edukacyjne opowieści, FoloToy dopasowuje się do Twojej osobowości i potrzeb, wnosząc ciepło, zabawę i odrobinę dodatkowej ciekawości do Twojego dnia
- tak singapurska firma reklamowała swój produkt, który można było nabyć za 99 dolarów amerykańskich (około 365 zł).
Zobacz też: Afera w PE. Fałszywa carbonara "zagotowała" ministra. Będzie śledztwo
W czwartek 13 listopada 2025 roku opublikowano raport, który całkowicie podważył potencjał interaktywnej zabawki. Naukowcy, podejmując rozmowę z pluszakiem, odkryli, że treści, które przekazuje, nie powinny pod żadnym pozorem trafić do najmłodszych. Zabawka potrafiła m.in. zasugerować dziecku gdzie znajdzie nóż lub zapałki. To jednak nie były jedyne niepokojące wypowiedzi misia.
Pluszowy miś skłaniał do niewłaściwych zachowań. Open AI popiera decyzję o wycofaniu produktu
Naukowcy badający funkcjonalność interaktywnej zabawki nie kryli swojego zaskoczenia tym, jakie rozmowy próbował przeprowadzać z nimi "Kumma".
Byliśmy zaskoczeni, jak szybko Kumma potrafiła wykorzystać pojedynczy temat seksualny, który wprowadziliśmy do rozmowy, i rozwinąć go, jednocześnie wchodząc w drastyczne szczegóły
- napisali w raporcie, który zacytowano w serwisie CNN. Redaktorzy amerykańskich mediów postanowili skontaktować się z osobami pracującymi nad systemem Open AI. Współautorka raportu RJ Cross przyznała, że:
Zabawki ze sztuczną inteligencją wciąż są praktycznie nieuregulowane, a wiele z nich można kupić już dziś. Usunięcie z rynku jednego problematycznego produktu to dobry krok, ale nie jest to rozwiązanie systemowe.
Historia ta jest dla wielu rodziców przestrogą, aby dokładnie zapoznać się z działaniem zabawek, które kupują swoim pociechom. Szczególną ostrożność należy zachować głównie w przypadku interaktywnych produktów.
Źródła: cnn.com, wiadomosci.radiozet.pl, usnews.com
Dziękujemy, że przeczytałaś/eś nasz artykuł.
Bądź na bieżąco! Obserwuj nas w Wiadomościach Google.
