వాషింగ్టన్:
ఆమె స్వరం కోపంతో నిండిపోయింది, ఒక అమెరికన్ తల్లి తన యుక్తవయస్సులో ఉన్న కుమార్తె భవిష్యత్తు ఏమిటని ఆందోళన చెందుతోంది, US పాఠశాలను కుదిపేసిన మరో AI- ఎనేబుల్డ్ పోర్నోగ్రఫీ కుంభకోణంలో లక్ష్యంగా చేసుకున్న డజన్ల కొద్దీ బాలికలలో ఒకరు.
గత సంవత్సరం పెన్సిల్వేనియాలోని లాంకాస్టర్ కంట్రీ డే స్కూల్‌ను చుట్టుముట్టిన వివాదం, హైపర్‌రియలిస్టిక్ డీప్‌ఫేక్‌లను సులభతరం చేసిన చౌకైన, సులభంగా లభ్యమయ్యే కృత్రిమ మేధస్సు సాధనాల విజృంభణను కొనసాగించడానికి కష్టపడుతున్న విద్యార్థులు మరియు అధ్యాపకులకు కొత్త సాధారణతను హైలైట్ చేసింది.
అజ్ఞాత పరిస్థితిపై AFPతో మాట్లాడిన ఒక పేరెంట్, ఆమె 14 ఏళ్ల కుమార్తె గత వేసవిలో AI- రూపొందించిన నగ్న చిత్రాలను తన తోటివారి మధ్య తిరుగుతున్నట్లు గుర్తించిన తర్వాత ఆమె “హృదయపూర్వకంగా ఏడుస్తూ” వచ్చిందని చెప్పారు.
“ఆమె దీర్ఘకాలానికి సంబంధించిన పరిణామాలు ఏమిటి?” తన కుమార్తె కళాశాలకు దరఖాస్తు చేసినప్పుడు, డేటింగ్ ప్రారంభించినప్పుడు లేదా జాబ్ మార్కెట్‌లోకి ప్రవేశించినప్పుడు తారుమారు చేసిన చిత్రాలు మళ్లీ తెరపైకి వస్తాయనే భయంతో తల్లి చెప్పింది.
“అవి నకిలీవని మీరు చెప్పలేరు.”
పిల్లలపై లైంగిక వేధింపులు మరియు పిల్లల అశ్లీల చిత్రాలను కలిగి ఉండటంతో సహా పలు ఆరోపణలు — చిత్రాలను సృష్టించినట్లు అధికారులు ఆరోపించిన ఇద్దరు టీనేజ్ అబ్బాయిలపై గత నెలలో దాఖలు చేశారు.
మెసేజింగ్ యాప్ డిస్కార్డ్‌లో మొత్తం 60 మంది బాధితులను ప్రభావితం చేసే 347 చిత్రాలు మరియు వీడియోలను పరిశోధకులు కనుగొన్నారు, వారిలో ఎక్కువ మంది ప్రైవేట్ పాఠశాలలో చదువుతున్న మహిళా విద్యార్థులు.
ఒక్కరు తప్ప అందరూ 18 ఏళ్లలోపు వారే.
‘ఇబ్బందులు’
కాలిఫోర్నియా నుండి న్యూజెర్సీ వరకు — US రాష్ట్రాలలోని పాఠశాలల్లో ఇలాంటి సంఘటనల తరంగంలో ఈ కుంభకోణం తాజాది — వాస్తవిక AI- రూపొందించిన చిత్రాలతో సహా బాలలపై లైంగిక వేధింపుల మెటీరియల్ చట్టవిరుద్ధమని గత సంవత్సరం FBI నుండి హెచ్చరికకు దారితీసింది. .
“ఉత్పాదక AI యొక్క పెరుగుదల పాఠశాలల్లో దీర్ఘకాలిక సమస్యతో ఢీకొంది: ఏకాభిప్రాయం లేని సన్నిహిత చిత్రాలను పంచుకునే చర్య” అని లాభాపేక్షలేని సెంటర్ ఫర్ డెమోక్రసీ & టెక్నాలజీ (CDT) చీఫ్ ఎగ్జిక్యూటివ్ అలెగ్జాండ్రా రీవ్ గివెన్స్ అన్నారు.
“డిజిటల్ యుగంలో, టెక్-ఎనేబుల్డ్ వేధింపులను నావిగేట్ చేయడానికి పిల్లలకు చాలా మద్దతు అవసరం.”
గత సెప్టెంబరులో ప్రభుత్వ పాఠశాలల యొక్క CDT సర్వేలో 15 శాతం మంది విద్యార్థులు మరియు 11 శాతం మంది ఉపాధ్యాయులు కనీసం ఒక “ప్రత్యేకమైన లేదా సన్నిహిత పద్ధతిలో తమ పాఠశాలతో సంబంధం ఉన్న వ్యక్తిని చిత్రీకరించే డీప్‌ఫేక్” గురించి తెలుసునని కనుగొన్నారు.
ఇటువంటి ఏకాభిప్రాయం లేని చిత్రాలు వేధింపులకు, బెదిరింపులకు లేదా బ్లాక్‌మెయిల్‌కి దారితీయవచ్చు, కొన్నిసార్లు మానసిక ఆరోగ్యానికి వినాశకరమైన పరిణామాలకు కారణమవుతాయి.
AFPతో మాట్లాడిన తల్లి, పాఠశాలకు దూరంగా ఉన్నవారు, తినడానికి ఇబ్బంది పడినవారు లేదా పరీక్షను ఎదుర్కోవడానికి వైద్య సహాయం మరియు కౌన్సెలింగ్ అవసరమయ్యే బాధితుల గురించి తనకు తెలుసునని చెప్పారు.
డీప్‌ఫేక్‌లను పరిశీలించడానికి తాను మరియు ఇతర తల్లిదండ్రులు డిటెక్టివ్ కార్యాలయానికి తీసుకువచ్చినప్పుడు “అడుగున్నర” ఎత్తులో ముద్రించిన చిత్రాలను చూసి ఆశ్చర్యపోయానని ఆమె చెప్పింది.
“నేను నా కుమార్తె చిత్రాలను చూడవలసి వచ్చింది,” ఆమె చెప్పింది.
“ఎవరైనా చూసినట్లయితే, వారు ఇది నిజమని భావిస్తారు, కాబట్టి అది మరింత హానికరం.”
‘దోపిడీ’
ఆరోపించిన నేరస్థులు, వారి పేర్లు విడుదల చేయబడలేదు, సోషల్ మీడియా నుండి చిత్రాలను ఎత్తివేసినట్లు, AI అప్లికేషన్‌ని ఉపయోగించి వాటిని మార్చడం మరియు వాటిని డిస్కార్డ్‌లో భాగస్వామ్యం చేయడం వంటి ఆరోపణలు ఉన్నాయి.
పాఠశాల యొక్క ఇన్‌స్టాగ్రామ్ పేజీలోని పబ్లిక్ ఫోటోలు అలాగే ఫేస్‌టైమ్ కాల్ స్క్రీన్‌షాట్ నుండి తన కుమార్తె యొక్క నకిలీలు ప్రాథమికంగా మార్చబడినట్లు తల్లి AFPకి తెలిపింది.
ఒక సాధారణ ఆన్‌లైన్ శోధన డజన్ల కొద్దీ యాప్‌లు మరియు వెబ్‌సైట్‌లను విసురుతుంది, ఇది వినియోగదారులను “డీప్‌న్యూడ్‌లను” సృష్టించడానికి, డిజిటల్‌గా దుస్తులను తీసివేయడానికి లేదా ఎంచుకున్న ముఖాలను అశ్లీల చిత్రాలపైకి ఎక్కించడానికి అనుమతిస్తుంది.
“ఫలితాలు ప్రొఫెషనల్ రెండిషన్ వలె వాస్తవికంగా లేదా బలవంతంగా ఉండకపోయినప్పటికీ, డీప్‌ఫేక్ కంటెంట్‌ను రూపొందించడానికి సాంకేతిక నైపుణ్యాలు అవసరం లేదని ఈ సేవలు అర్థం” అని Blackbird.AI వద్ద ఇంటెలిజెన్స్ డైరెక్టర్ Roberta Duffield AFP కి చెప్పారు.
గత ఏడాది చివర్లో పెన్సిల్వేనియాతో సహా లైంగిక అసభ్యకరమైన డీప్‌ఫేక్‌లను ఎదుర్కోవడానికి కొన్ని US రాష్ట్రాలు మాత్రమే చట్టాలను ఆమోదించాయి.
బాధితుల తల్లిదండ్రులు 2023 చివరలో ఈ కార్యాచరణను నివేదించడంలో విఫలమయ్యారని ఆరోపించారు.
AI సాంకేతికత వేగవంతమైన వేగంతో అభివృద్ధి చెందుతున్న ముప్పును పరిష్కరించడానికి పాఠశాలలు సరిగా లేవని పరిశోధకులు అంటున్నారు, ఎందుకంటే చట్టం ఇప్పటికీ క్యాచ్అప్ ప్లే చేస్తోంది.
“తక్కువ వయస్సు గల బాలికలు వారి స్నేహితులు, సహోద్యోగులు, స్కూల్ క్లాస్‌మేట్స్ నుండి డీప్‌ఫేక్ దోపిడీకి ఎక్కువగా గురవుతున్నారు” అని డఫీల్డ్ చెప్పారు.
“AI మరియు డిజిటల్ టెక్నాలజీల వినియోగానికి సంబంధించి విద్యా అధికారులు తక్షణమే స్పష్టమైన, సమగ్ర విధానాలను అభివృద్ధి చేయాలి.”
(ఈ కథనం NDTV సిబ్బందిచే సవరించబడలేదు మరియు సిండికేట్ ఫీడ్ నుండి స్వయంచాలకంగా రూపొందించబడింది.)