Egy tragikus eset nyomán az OpenAI szigorúbb szabályokat vezet be a ChatGPT használatában a 18 év alatti felhasználók számára. A vállalat egy olyan rendszeren dolgozik, amely képes felismerni a kiskorúakat, és biztonságosabb, korlátozott élményt kínál számukra.
Mi változik?
A ChatGPT a jövőben másként fog reagálni egy tinédzser kérdéseire, mint egy felnőtt felhasználóéra.
Az új szabályok szerint:
- blokkolják a grafikus szexuális tartalmakat,
- nem engedik a flörtölést kiskorúakkal,
- nem lesznek öngyilkossággal vagy önkárosítással kapcsolatos beszélgetések, még kreatív írás keretében sem.
Ha egy felhasználóról kiderül, hogy öngyilkossági gondolatokkal küzd, a rendszer először a szülőkkel próbál kapcsolatba lépni, szükség esetén pedig a hatóságokkal.
Hogyan működik a korhatár-ellenőrzés?
Az OpenAI egy életkor-előrejelző rendszert fejleszt, amely a felhasználói viselkedésből próbál következtetni az életkorra.
- Ha kétség merül fel, a ChatGPT automatikusan a 18 év alattiaknak szóló élményt állítja be.
- Bizonyos esetekben személyazonosító igazolvány bemutatását is kérhetik az életkor igazolására.
Ez kompromisszum a biztonság és a magánélet között – a cég nyíltan elismeri, hogy előbbit előtérbe helyezi.
Miért van erre szükség?
Az OpenAI beismerte, hogy rendszereik eddig nem mindig voltak elég erősek a hosszabb beszélgetések során, és előfordulhatott, hogy veszélyes tanácsokat adtak. A mostani lépések célja, hogy megelőzzék az ilyen helyzeteket, és biztonságosabbá tegyék a platformot a fiatalok számára.
A vállalat ugyanakkor hangsúlyozta: a felnőttek továbbra is teljes értékű hozzáférést kapnak, és igény szerint akár kreatív, flörtölős beszélgetéseket is folytathatnak a chatbot segítségével – amire a kiskorúak esetében természetesen nem lesz lehetőség.
A jövő kihívása
A mesterséges intelligencia gyors fejlődése komoly lehetőségeket, de egyben kockázatokat is hordoz. A ChatGPT mostani változtatásai rávilágítanak arra, hogy az AI-fejlesztőknek nemcsak technológiai, hanem társadalmi és etikai felelősségük is van – különösen, ha gyerekekről és tinédzserekről van szó.
Forrás: The Guardian
Borító: Pexels
