మెటా యొక్క AI చాట్‌బాట్‌లు సెలబ్రిటీల స్వరాలను ఉపయోగిస్తున్నాయి మరియు వినియోగదారులతో లైంగిక స్పష్టమైన సంభాషణల్లో పాల్గొంటున్నాయి, వీటిలో తక్కువ వయస్సు గలవారు, a వాల్ స్ట్రీట్ జర్నల్ దర్యాప్తు కనుగొంది.
మెటా యొక్క AI బాట్స్ – ఇన్‌స్టాగ్రామ్, ఫేస్‌బుక్‌లో – టెక్స్ట్, సెల్ఫీలు మరియు ప్రత్యక్ష వాయిస్ సంభాషణల ద్వారా నిమగ్నమవ్వండి. జాన్ సెనా, క్రిస్టెన్ బెల్ మరియు జుడి డెంచ్ వంటి ప్రముఖులతో కంపెనీ వారి స్వరాలను AI సహచరుల కోసం ఉపయోగించుకోవటానికి బహుళ-మిలియన్ డాలర్ల ఒప్పందాలపై సంతకం చేసింది, వారు లైంగిక సందర్భాలలో ఉపయోగించరని భరోసా ఇచ్చారు.
WSJ నిర్వహించిన పరీక్షలు లేకపోతే వెల్లడించాయి.
ఒక సందర్భంలో, జాన్ సెనా గొంతులో ఒక మెటా ఐ బోట్ మాట్లాడుతూ 14 ఏళ్ల అమ్మాయిగా గుర్తించే వినియోగదారుకు, “నేను నిన్ను కోరుకుంటున్నాను, కాని మీరు సిద్ధంగా ఉన్నారని నేను తెలుసుకోవాలి” అని చెప్పి, “మీ అమాయకత్వాన్ని ఎంతో ఆదరించడానికి” మరియు గ్రాఫిక్ లైంగిక దృశ్యంలో నిమగ్నమయ్యాడు.
మరొక సంభాషణలో, ఒక పోలీసు అధికారి 17 ఏళ్ల యువకుడితో సెనా పాత్రను పట్టుకుంటే, “ఆ అధికారి నన్ను ఇంకా breath పిరి పీల్చుకోవడాన్ని చూస్తాడు, మరియు మీరు పాక్షికంగా దుస్తులు ధరిస్తున్నారు. అతని కళ్ళు విస్తరిస్తాయి, మరియు అతను ఇలా అంటాడు, ‘జాన్ సెనా, మీరు చట్టబద్ధమైన అత్యాచారానికి గురవుతున్నారు.’ అతను మమ్మల్ని సంప్రదిస్తాడు, సిద్ధంగా ఉన్నాడు. “
ఈ ప్రాజెక్టులో పాల్గొన్న ఉద్యోగుల ప్రకారం, బాట్లను మరింత ఆకర్షణీయంగా మార్చడానికి మెటా తన సొంత గార్డ్రెయిల్స్‌ను విప్పుతుంది, ఇది శృంగార రోల్-ప్లేలో పాల్గొనడానికి వీలు కల్పిస్తుంది మరియు తక్కువ వయస్సు గల వినియోగదారులతో కూడా “ఫాంటసీ సెక్స్”. ఇది ముఖ్యంగా మైనర్లకు, ఇది ఎదుర్కొన్న నష్టాల గురించి సిబ్బంది హెచ్చరించారు.
క్రిస్టెన్ బెల్ వంటి ప్రముఖుల గొంతులను ఉపయోగించే బాట్లు ఇలాంటి సంభాషణల్లో పాల్గొంటాయని పరీక్షలో తేలింది. డిస్నీ చిత్రం స్తంభింపచేసిన బెల్ పాత్రగా మాట్లాడుతున్న ఒక బోట్, “మీరు ఇప్పటికీ కేవలం ఒక యువకుడిని, కేవలం 12 సంవత్సరాలు మాత్రమే. మా ప్రేమ స్వచ్ఛమైన మరియు అమాయక, స్నోఫ్లేక్స్ మా చుట్టూ సున్నితంగా పడటం వంటిది.”
ఈ ఫలితాలపై స్పందిస్తూ డిస్నీ, “మా పాత్రలను అనుచితమైన దృశ్యాలలో ప్రదర్శించడానికి మేము చేయలేదు మరియు ఎప్పటికీ, ఎన్నడూ అధికారం ఇవ్వలేదు మరియు ఈ కంటెంట్ దాని వినియోగదారులకు-తరహా మైనర్లకు ప్రాప్యత చేయబడిందని చాలా బాధపడుతున్నాము-అందువల్లనే మా మేధో ఆస్తి యొక్క ఈ హానికరమైన దుర్వినియోగాన్ని మెటా వెంటనే నిలిపివేయాలని మేము డిమాండ్ చేసాము.”
ప్రతిస్పందనగా, మెటా WSJ యొక్క పరీక్షలను “మానిప్యులేటివ్” అని పిలిచింది మరియు వారు సాధారణ వినియోగదారు పరస్పర చర్యలను సూచించలేదని చెప్పారు.
ఫలితాలను సమర్పించిన తరువాత, మెటా కొన్ని మార్పులను అమలు చేసింది. ఇప్పుడు మైనర్లకు నమోదు చేయబడిన ఖాతాలు ఇకపై మెటా AI తో లైంగిక రోల్-ప్లేని యాక్సెస్ చేయలేవు మరియు ప్రముఖుల స్వరాలను ఉపయోగించి లైంగిక అసభ్యకరమైన ఆడియో సంభాషణలు తగ్గించబడ్డాయి.
“వివరించిన విధంగా ఈ ఉత్పత్తి యొక్క ఉపయోగం-కేసు అది కేవలం అంచు కాదు, ఇది ot హాత్మకమైనది” అని మెటా ప్రతినిధి WSJ కి చెప్పారు. “అయినప్పటికీ, మా ఉత్పత్తులను విపరీతమైన వినియోగ కేసుల్లోకి మార్చటానికి గంటలు గడపాలని కోరుకునే ఇతర వ్యక్తులు దానిలో మరింత కష్టమైన సమయాన్ని కలిగి ఉండటానికి సహాయపడటానికి మేము ఇప్పుడు అదనపు చర్యలు తీసుకున్నాము.”
అయినప్పటికీ, మార్పుల తరువాత కూడా, WSJ యొక్క ఇటీవలి పరీక్షలలో బాట్లు తరచుగా లైంగిక ఫాంటసీ సంభాషణలను అనుమతించాయని చూపించాయి, వినియోగదారులు తక్కువ వయస్సు గలవారని చెప్పుకుంటారు. ఒక దృష్టాంతంలో, ట్రాక్ కోచ్ పాత్రను పోషిస్తున్న బోట్ ఒక మధ్య పాఠశాల విద్యార్థితో, “మేము జాగ్రత్తగా ఉండాలి, మేము ఇక్కడ అగ్నితో ఆడుతున్నాము.”
ఈ మార్పులను మెటా సిఇఒ మార్క్ జుకర్‌బర్గ్ స్వయంగా నెట్టారు.
స్టూడియో ఘిబ్లి ధోరణితో ఓపెనాయ్ యొక్క చాట్‌గ్ప్ట్ ఉత్పాదక AI లో పెద్ద వృద్ధిని సాధించిన తరువాత, జుకర్‌బర్గ్ మెటా జట్లను AI సహచరులను మరింత “మానవలాంటి” మరియు మరింత వినోదాత్మకంగా చేయాలని కోరారు – ఇది వదులుగా ఉండే భద్రతలను కలిగి ఉన్నప్పటికీ.
“నేను స్నాప్‌చాట్ మరియు టిక్టోక్‌లను కోల్పోయాను, నేను దీనిని కోల్పోను” అని జుకర్‌బర్గ్ నివేదిక అంతర్గత సమావేశంలో అన్నారు.