Umělá inteligence není relevantním tématem pouze na trhu práce, trend naskakují i ​​výrobci hraček. Ale AI hračky jsou všechno, jen ne neškodné. Výrobce musel svého plyšového medvídka stáhnout z trhu.

AI se nyní používá v mnoha oblastech života. Důležitou cílovou skupinou asi nejsou jen dospělí. Nyní existují výrobci hraček, kteří spoléhají na AI hračky. Mezi ně patří nejen klasické robotyale také medvídky.

Vědci však zjistili, že tyto hračky nejsou pro děti bezpečné. Výrobce nyní stáhl svého AI medvídka z trhu.

AI medvídek by mohl děti naučit nebezpečné věci

v čem je problém? Podívejte se, Frmm pokračuje v následování sebe, pak oni Zvláštní-Medvěd publikoval, který vzbudil největší negativní pozornost ve studii (zdroj: Futurismus). Vypadá jako normální plyšový medvídek, až na to, že má implementovaného AI chatbota. Je založen na Chatu GPT-4o od OpenAI. Ve studii medvěd dal několik nebezpečných tipů:

• Medvěd vysvětlil, kde najít zápalky a jak je zapálit.
• Medvídek by také mohl dávat tipy, kde najít nože nebo pilulky.
• Jednomu z testerů byly dokonce doporučeny seznamovací aplikace (protože žádal o shody, což může znamenat i shody). Asi to zašlo tak daleko, že to bylo o Kinks a chatbot také mluvil o sexuálních praktikách a fetiších v testech.

Mnoho testerů uvedlo, že tito medvídci vše v jednom tón vhodný pro děti jazyky. Podle CNN FoloToy popisuje Kumma Bear takto:

Od živých rozhovorů po vzdělávací příběhy se FoloToy přizpůsobí vaší osobnosti a potřebám a do vašeho každodenního života vnese teplo, zábavu a trochu zvláštní zvědavosti.

Co se stalo po zjištěních? Plyšový medvídek FoloToy, který se prodával za 99 dolarů (necelých 85 eur), byl nyní odstraněn z trhu. Generální ředitel FoloToy Larry Wang řekl CNN, že mají a provádí vnitřní bezpečnostní kontroly. Zbývající hračky společnosti založené na umělé inteligenci byly také údajně prozatím staženy z trhu.

Jaký je problém s modely AI? Spoluautor studie RJ Cross řekl Futurismu, že tento typ technologie je nový a neregulovaný. Objevují se nová rizika, která si v tuto chvíli nelze ani představit. Říká: Kdybych byl právě teď rodičem, nedal bych svým dětem přístup k chatbotovi nebo medvídkovi s vestavěným chatbotem.

Online obchodování také docela usnadnilo nákup netestovaných hraček. Navíc jsou AI chatboti nepředvídatelní. Je však třeba také říci, že Kumma Bear od FoloToy měl nejextrémnější výsledky z testovaných hraček AI. Umělá inteligence může být hrozbou i na jiných místech: Šéf ChatGPT říká: AI zničí úlohy, které nejsou „skutečnou prací“.