భారీగా క్యారెట్ పట్టుకొని, ఒక ధైర్యమైన, షర్ట్‌లెస్ మనిషి మగ జననేంద్రియాలను విస్తరించగలడని అతను పేర్కొన్న అనుబంధాన్ని ప్రోత్సహిస్తాడు-టిక్టోక్ నిరూపించబడని లైంగిక చికిత్సలను పెడ్లింగ్ చేయడంపై లెక్కలేనన్ని AI- ఉత్పత్తి చేసిన వీడియోలలో ఒకటి.
ఉత్పాదక AI యొక్క పెరుగుదల కనీస మానవ పర్యవేక్షణతో ఇటువంటి వీడియోలను భారీగా ఉత్పత్తి చేయడం సులభం-మరియు ఆర్థికంగా లాభదాయకంగా ఉంది, తరచుగా బోగస్ మరియు హానికరమైన ఉత్పత్తుల యొక్క నకిలీ ప్రముఖుల ఆమోదాలను కలిగి ఉంటుంది.
కొన్ని టిక్టోక్ వీడియోలలో, క్యారెట్లను పురుష జననేంద్రియాలకు సభ్యోక్తిగా ఉపయోగిస్తారు, స్పష్టంగా కంటెంట్ మోడరేషన్ తప్పించుకోవడానికి లైంగిక అసభ్యకరమైన భాష.
“మీ క్యారెట్ పెరిగిందని మీరు గమనించవచ్చు” అని కండరాల వ్యక్తి ఒక వీడియోలో రోబోటిక్ వాయిస్‌లో, వినియోగదారులను ఆన్‌లైన్ కొనుగోలు లింక్‌కు నిర్దేశిస్తాడు.
“ఈ ఉత్పత్తి మీ జీవితాన్ని మారుస్తుంది,” అని మనిషి జతచేస్తాడు, పదార్ధాలుగా ఉపయోగించిన మూలికలు టెస్టోస్టెరాన్ ను పెంచుతాయని మరియు “పైకప్పు ద్వారా శక్తి స్థాయిలను పంపుతాయని ఆధారాలు లేకుండా పేర్కొంటాడు.
ఈ వీడియో AI- సృష్టించినట్లు కనిపిస్తుంది, బే ఏరియా-ప్రధాన కార్యాలయం సంస్థ ఇటీవల ప్రారంభించిన డీప్‌ఫేక్ డిటెక్షన్ సేవ ప్రకారం, AI ను పోలి ఉంటుంది, ఇది దాని ఫలితాలను AFP తో పంచుకుంది.
“ఈ ఉదాహరణలో చూసినట్లుగా, అతిశయోక్తి లేదా ధృవీకరించని వాదనలతో సప్లిమెంట్లను మార్కెట్ చేయడానికి తప్పుదారి పట్టించే AI- ఉత్పత్తి చేసే కంటెంట్ ఉపయోగించబడుతోంది, వినియోగదారుల ఆరోగ్యాన్ని ప్రమాదంలో పడే అవకాశం ఉంది” అని AI యొక్క చీఫ్ ఎగ్జిక్యూటివ్ మరియు సహ వ్యవస్థాపకుడిని పోలి ఉండే జోహైబ్ అహ్మద్ AFP కి చెప్పారు.
“తప్పుడు సమాచారాన్ని వ్యాప్తి చేయడానికి మేము AI- ఉత్పత్తి చేయబడిన కంటెంట్ ఆయుధాన్ని చూస్తున్నాము.”
‘చౌక మార్గం’
ఆర్టిఫిషియల్ ఇంటెలిజెన్స్‌లో వేగంగా అభివృద్ధి చెందుతున్నది, పరిశోధకులు AI డిస్టోపియా అని పిలిచే వాటికి ఆజ్యం పోసింది, సందేహాస్పదమైన వినియోగదారులను సందేహాస్పదమైన ఉత్పత్తులను కొనుగోలు చేయడానికి సందేహించని వినియోగదారులను మార్చటానికి రూపొందించబడిన మోసపూరిత నిండిన ఆన్‌లైన్ విశ్వం.
అవి ధృవీకరించబడని – మరియు కొన్ని సందర్భాల్లో, హానికరమైనవి – బరువు తగ్గించే ఉత్పత్తులు మరియు లైంగిక నివారణల వరకు ఆహార పదార్ధాలు.
“తక్కువ ఖర్చుతో పెద్ద మొత్తంలో కంటెంట్ వాలులను సృష్టించాలని చూస్తున్న గ్రిఫ్టర్లకు AI ఒక ఉపయోగకరమైన సాధనం” అని తప్పుడు సమాచారం పరిశోధకుడు అబ్బీ రిచర్డ్స్ AFP కి చెప్పారు.
“ఇది ప్రకటనలను రూపొందించడానికి చౌకైన మార్గం” అని ఆమె తెలిపింది.
కార్నెల్ టెక్ వద్ద సెక్యూరిటీ, ట్రస్ట్ మరియు సేఫ్టీ ఇనిషియేటివ్ డైరెక్టర్ అలెక్సియోస్ మాంట్జార్లిస్, ప్రశ్నార్థకమైన లైంగిక నివారణలను ప్రోత్సహించే టిక్టోక్‌లోని “AI డాక్టర్” అవతారాలు మరియు ఆడియో ట్రాక్‌ల పెరుగుదలను గమనించారు.
ఈ వీడియోలలో కొన్ని, చాలా మిలియన్ల వీక్షణలతో, నిమ్మ, అల్లం మరియు వెల్లుల్లి వంటి పదార్ధాల నుండి తయారు చేసిన టెస్టోస్టెరాన్-బూస్టింగ్ సమ్మేళనాలు.
మరింత ఇబ్బందికరంగా, వేగంగా అభివృద్ధి చెందుతున్న AI సాధనాలు నటి అమండా సెయ్ఫ్రైడ్ మరియు నటుడు రాబర్ట్ డి నిరో వంటి ప్రముఖుల వలె డీప్‌ఫేక్‌లను సృష్టించడానికి వీలు కల్పించాయి.
“మీ భర్త దాన్ని పొందలేరా?” నేషనల్ ఇన్స్టిట్యూట్ ఆఫ్ అలెర్జీ అండ్ ఇన్ఫెక్షియస్ డిసీజెస్ మాజీ డైరెక్టర్ ఆంథోనీ ఫౌసీ, ప్రోస్టేట్ సప్లిమెంట్‌ను ప్రోత్సహించే టిక్టోక్ వీడియోలో అడిగినట్లు తెలుస్తోంది.
కానీ క్లిప్ ఫౌసీ యొక్క పోలికను ఉపయోగించి డీప్‌ఫేక్.
‘హానికరం’
ఇప్పటికే ఉన్న వాటి నుండి అనేక తారుమారు చేసిన వీడియోలు సృష్టించబడ్డాయి, AI- ఉత్పత్తి చేసిన స్వరాలతో సవరించబడ్డాయి మరియు మార్చబడిన వాయిస్ చెప్పేదానికి సరిపోయేలా పెదవి-సమకాలీకరించబడతాయి.
“ఆన్‌లైన్‌లో ప్రామాణికమైన ఖాతాలను గుర్తించే మన సామర్థ్యాన్ని మరింత దిగజార్చినందున వంచన వీడియోలు ముఖ్యంగా హానికరం” అని మాంట్జార్లిస్ చెప్పారు.
గత సంవత్సరం, మాంట్జార్లిస్ యూట్యూబ్‌లో వందలాది ప్రకటనలను కనుగొన్నాడు, ఇందులో ప్రముఖులు – ఆర్నాల్డ్ స్క్వార్జెనెగర్, సిల్వెస్టర్ స్టాలోన్ మరియు మైక్ టైసన్‌లతో సహా – అంగస్తంభన నివారణలుగా ముద్రవేయబడిన సప్లిమెంట్లను ప్రోత్సహిస్తున్నారు.
స్వల్ప-రూపం AI వీడియోలను ఉత్పత్తి చేసే వేగవంతమైన వేగం అంటే టెక్ ప్లాట్‌ఫారమ్‌లు ప్రశ్నార్థకమైన కంటెంట్‌ను తొలగించినప్పుడు కూడా, సమీప-ఒకేలాంటి సంస్కరణలు త్వరగా మళ్లీ కనిపిస్తాయి-మోడరేషన్‌ను వాక్-ఎ-మోల్ ఆటగా మారుస్తుంది.
AI- సృష్టించిన కంటెంట్‌ను పోలీసింగ్ చేయడానికి ఇది ప్రత్యేకమైన సవాళ్లను సృష్టిస్తుందని పరిశోధకులు అంటున్నారు, నవల పరిష్కారాలు మరియు మరింత అధునాతన గుర్తింపు సాధనాలు అవసరం.
AFP యొక్క ఫాక్ట్ చెకర్స్ ఫేస్‌బుక్‌లో పదేపదే స్కామ్ ప్రకటనలను తొలగించారు – అంగస్తంభన నివారణలతో సహా – న్యూరో సర్జన్ మరియు మాజీ యుఎస్ క్యాబినెట్ సభ్యుడు బెన్ కార్సన్ నకిలీ ఆమోదాలను ఉపయోగిస్తాయి.
ఇంకా చాలా మంది వినియోగదారులు ఇప్పటికీ ఎండార్స్‌మెంట్‌లను చట్టబద్ధంగా భావిస్తారు, ఇది డీప్‌ఫేక్‌ల విజ్ఞప్తిని వివరిస్తుంది.
“స్కామి అనుబంధ మార్కెటింగ్ పథకాలు మరియు ప్రశ్నార్థకమైన సెక్స్ సప్లిమెంట్స్ ఇంటర్నెట్ మరియు అంతకుముందు ఉన్నంత కాలం ఉన్నాయి” అని మాంట్జార్లిస్ చెప్పారు.
“ఆన్‌లైన్‌లో ఉన్న ప్రతి చెడ్డ విషయాల మాదిరిగానే, జనరేటివ్ AI ఈ దుర్వినియోగం వెక్టర్‌ను చౌకగా మరియు వేగంగా అమలు చేయడానికి వేగంగా చేసింది.”
(శీర్షిక మినహా, ఈ కథను ఎన్‌డిటివి సిబ్బంది సవరించలేదు మరియు సిండికేటెడ్ ఫీడ్ నుండి ప్రచురించబడింది.)