Snapchatova „strašidelná“ chyba AI nám připomíná, že chatboti nejsou lidé. Ale jak se linie rozmazává, rizika rostou

Při nedávném incidentu Snapchat společnost celou věc položila na „dočasný výpadek“. Možná nikdy nebudeme vědět, co se vlastně stalo; Mohlo by to být ještě další příklad AI „halucinatng“ nebo výsledek kybernetického útoku nebo dokonce pouze provozní chyby.

Snapchat Ai

Сегодня мы запускаем My Ai, нового чат-бота, работающего на послед někdo. Moje ai доступен в качестве экспериментаvého.

Moje ai может посоветовать идеи подарков на день рождения д už в п похохоnda—— ochotna ожить рецепт. Сделайте My Ai своим собственным, дав ему имя и настроив.

Как и вс чат-б чат-с с искуственным интелектом, My Ai ск všichni ски. Пожалуйста, помните о его многочисленных недостатках и заранее извинте! Ве разговоры с My Ai будут сохранены и могут ыыть проанализированы д р р с с п п п п р р работы. Не делитесь с my ai никакими секретами и не полагайтесь на его советы.

. Чтобы оставить отзызы, нажмите и уерживайте люю сообщение от ai. Мы будем рады услышать о в о опыте работы с my ai.

Snapchat Ai

Autor

1. Zástupce ředitele Centra pro analýzu a poznání Daswin de Silva, La Trobe University

Prohlášení o zveřejnění

Daswin de Silva nefunguje, konzultuje, vlastní akcie nebo získává financování od jakékoli společnosti nebo organizace, která by z tohoto článku měla prospěch, a nezveřejnil žádné relevantní přidružení nad rámec jejich akademického jmenování.

Partneři

Univerzita La Trobe poskytuje financování jako člen konverzace AU.

Chatboti s umělou inteligencí (AI) se stávají podle designu stále více člověka, do té míry, že někteří z nás se mohou snažit rozlišovat mezi člověkem a strojem.

Tento týden se Snapchat je můj AI chatbot závažný a zveřejnil příběh o tom, co vypadalo jako zeď a strop, než přestala reagovat na uživatele. Internet se přirozeně začal ptát, zda chatbot poháněný chatgptem získal vnímání.

Tímto zmatením by se mohl potlačit kurz havárie v gramotnosti AI. Kromě toho nám však incident připomíná, že s tím, jak se AI chatboti přibližují, aby se připomínají lidem, bude řídit jejich absorpci jen náročnější – a důležitější a důležitější.

Od pravidel založených na adaptivní chatboty

Od té doby, co Chatgpt na naše obrazovky v loňském roce propukl na naše obrazovky, mnoho digitálních platforem integrovalo AI do svých služeb. I když navrhuji tento článek o Microsoft Word, prediktivní schopnost AI softwaru navrhuje možné dokončení věty.

Tento relativně nový typ umělé inteligence, známý jako generativní AI.

Generativní nástroje AI, včetně generátorů AI image a chatbotů, jsou postaveny na velkých jazykových modelech (LLM). Tyto výpočetní modely analyzují asociace mezi miliardami slov, vět a odstavců, aby se předpovídaly, co by mělo přijít dál v daném textu. Jak uvádí spoluzakladatelka OpenAI Ilya Sutskever, LLM je

[…] Jen opravdu, opravdu dobrý prediktor dalšího slova.

Pokročilé LLM jsou také doladěny s lidskou zpětnou vazbou. Toto školení, často dodávané v nespočetných hodinách levné lidské práce, je důvodem, proč AI chatboti mohou nyní vést zdánlivě lidské konverzace.

Chatgpt OpenAI je stále vlajkovým generativním modelem AI. Jeho vydání znamenalo hlavní skok z jednodušších „pravidel“ chatbotů, jako jsou například vydání používané v online zákaznickém servisu.

Lidské chatboty, kteří mluví na spíše uživatel na byly spojeny s vyšší úrovní angažovanosti. Jedna studie zjistila, že zosobnění chatbotů vede ke zvýšenému angažovanosti, které se v průběhu času může proměnit v psychologickou závislost. Další studie zahrnující stresované účastníci zjistili, že lidský chatbot byl s větší pravděpodobností vnímán jako kompetentní, a proto je pravděpodobnější, že pomůže snížit stres účastníků.

Tyto chatboti byly také účinné při plnění organizačních cílů v různých prostředích, včetně maloobchodního, vzdělávacího, pracoviště a nastavení zdravotní péče.

Google používá generativní AI k vytvoření „trenéra osobního života“, který údajně pomůže lidem s různými osobními a profesionálními úkoly, včetně poskytování životních rad a zodpovězení intimních otázek.

To je navzdory vlastním odborníkům na bezpečnost AI společnosti Google, že uživatelé by mohli růst příliš závislý na AI a mohou zažít „snížené zdraví a pohodu“ a „ztrátu agentury“, pokud z toho berou radu o životě.

Přítel nebo nepřítel – nebo jen bot?

Při nedávném incidentu Snapchat společnost celou věc položila na „dočasný výpadek“. Možná nikdy nebudeme vědět, co se vlastně stalo; Mohlo by to být ještě další příklad AI „halucinatng“ nebo výsledek kybernetického útoku nebo dokonce pouze provozní chyby.

Ať tak či onak, rychlost, s jakou někteří uživatelé předpokládali, že chatbot dosáhl vnímání, naznačuje, že vidíme bezprecedentní antropomorfismus AI. Je zkomplikováno nedostatkem transparentnosti od vývojářů a nedostatkem základního porozumění veřejnosti.

Neměli bychom podceňovat, jak mohou být jednotlivci v omyl zjevnou autentičnost lidských chatbotů.

Začátkem tohoto roku byla sebevražda belgického muže přičítána rozhovorům, které měl s chatbotem o nečinnosti klimatu a budoucnosti planety. V jiném příkladu bylo zjištěno, že chatbot jménem Tessa nabízí lidem škodlivé rady prostřednictvím linky poruchy příjmu potravy.

Chatboti mohou být zvláště škodliví pro zranitelnější mezi námi, a zejména pro ty, kteří mají psychologické podmínky.

?

Možná jste slyšeli o efektu „Uncanny Valley“. Odkazuje na ten nepříjemný pocit, který dostanete, když vidíte humanoidního robota téměř vypadá lidvě, ale jeho nepatrné nedokonalosti to dávají pryč a nakonec je strašidelné.

Zdá se, že se v našich interakcích s lidskými chatboty objevuje podobná zkušenost. Mírný výkyv může zvednout chloupky na zadní straně krku.

Jedním z řešení může být ztracení lidské hrany a vrátit se k chatbotům, kteří jsou přímý, objektivní a fakticky. To by však přišlo na úkor zapojení a inovací.

Vzdělávání a transparentnost jsou klíčové

Ani vývojáři pokročilých chatbotů AI často nedokážou vysvětlit, jak fungují. Přesto v některých ohledech (a pokud jde o komerční subjekty), výhody převažují nad riziky.

Generativní AI prokázala svou užitečnost u položek s velkými vstupenkami, jako je produktivita, zdravotní péče, vzdělávání a dokonce i sociální spravedlnost. Je nepravděpodobné, že by odešel. Jak to tedy pro nás funguje?

Od roku 2018 došlo k významnému tlaku na vlády a organizace k řešení rizik AI. Ale použití odpovědných standardů a předpisů na technologii, která je více „podobná člověku“ než kterákoli jiná přichází s řadou výzev.

. V USA představila Kalifornie „robotový účet“, který by to vyžadoval, ale právní odborníci v něm udeřili otvory – a návrh zákona musí být dosud vynucen v době psaní tohoto článku.

Kromě toho jsou ChatGPT a podobné chatboty zveřejněny jako „Research Previews“. To znamená, že často přicházejí s více zveřejněním jejich prototypové povahy a břemeno pro odpovědné použití klesá na uživatele.

Zákon AI Evropské unie, první komplexní regulace na světě na AI, identifikoval mírnou regulaci a vzdělání jako cestu vpřed – protože nadměrná regulace by mohla zavést inovaci. .

• Umělá inteligence (AI)
• Technika
• Uncanny Valley
• Snapchat
• Chatbots
• Model AI
• Velké jazykové modely
• Etika umělé inteligence

? Tady jsou data, která od vás tahá

V dubnu Snap získal svůj AI poháněný chatbot, můj AI, k dispozici uživatelům Snapchat. Společnost říká, že více než 150 milionů uživatelů hovořilo s chatbotem. Snap říká, že jeho chatbot AI je vybaven více zábradlí než chatgpt, což by mělo zajistit, aby byl pro mladší SnapCatters bezpečnější.

Podle Statisty je asi 20% globálních uživatelů Snapchat ve věku od 13 do 17 let, takže je zásadní, aby děti nebyly vystaveny nevhodnému obsahu, který by chatbot mohl vydat. Ale v některých experimentálních chatech s Botem uživatelé zjistili, že Snapchatův robot vysvětlí, jak se zapojit do užívání nezletilých a sexuální aktivity.

Když Snapchatters poprvé začal experimentálně konverzovat s mým AI, mnozí byli zvědaví na přístup chatbota k jejich poloze. Když byla moje AI dotázána, zda má umístění uživatele, okamžitě by to popíralo přístup k datům geolokací.

Pokud však uživatel požádal o doporučení restaurace ve své oblasti, mohla by je moje umělá inteligence poskytnout, což dokazuje, že Bot má přístup k umístění SnapCattersů. Lidé vzali na Twitter, aby vyjádřili, že se to obává mé umělé inteligence, a začali se zvědavě na to, k jakým uživatelským datům měl Bot přístup.

?

Umístění

Moje AI má přístup k vaší poloze, pokud dovolíte Snapchatu získat přístup k vaší poloze. Snap říká, že moje AI neshromažďuje žádná nová data umístění od vás a vytáhne pouze z dat, která jste zadali Snapchat.

Někteří uživatelé povolují funkci Snapchat s názvem Ghost Mode, která vám umožní skrýt vaši polohu před vašimi přáteli a odstranit vás z mapy Snap. Režim duchů však nezajišťuje, že moje AI nemůže získat přístup k vaší poloze. .

Konverzace

Snap ukládá vaše konverzace s mým AI, dokud je ručně smažete, ale může to trvat až 30 dní, než jsou vaše konverzační data s mým AI odstraněna ze serverů Snapchat. .

Zásady ochrany osobních údajů Snapchatu uvádějí, že všechny snímky jsou vymazány ze serverů Snapchat poté, co si je všichni příjemci prohlédnou. Snap však jasně rozlišuje, že chaty odeslané do mé umělé inteligence se nesledují tento pokyny a jsou smazány pouze tehdy, pokud požádáte Snapchata, aby je smazal. Je třeba předpokládat, že Snap si zachovává jakýkoli zvuk nebo fotografie, které posíláte do mé umělé inteligence, a lze jej smazat, pouze pokud to uděláte sami.