గ్రోక్ దుర్వినియోగం.. వినియోగదారుడిపై ఎలాన్ మస్క్ xAI కేసు

ఎలాన్ మస్క్‌కు చెందిన కృత్రిమ మేధస్సు సంస్థ xAI తన గ్రోక్ (Grok) ఏఐ చాట్‌బాట్‌ను దుర్వినియోగం చేసినట్లు ఆరోపిస్తూ అమెరికాకు చెందిన ఓ వినియోగదారుడిపై న్యాయపరమైన చర్యలు ప్రారంభించింది. గ్రోక్ సాంకేతికతను ఉపయోగించి లైంగిక డీప్‌ఫేక్‌లు (Sexual Deepfakes) మరియు చిన్నారుల లైంగిక దుర్వినియోగానికి సంబంధించిన అక్రమ కంటెంట్ (Child Sexual Abuse Material – CSAM) సృష్టించేందుకు ప్రయత్నించాడని, దీంతో సంస్థ సేవా నిబంధనలు (Terms of Service) మరియు ఆమోదయోగ్య వినియోగ విధానం (Acceptable Use Policy)ను ఉల్లంఘించాడని xAI తన వ్యాజ్యంలో పేర్కొంది

కోర్టులో దాఖలు చేసిన పిటిషన్‌లో xAI, సంబంధిత వ్యక్తి గ్రోక్‌ను సాధారణ వినియోగం కోసం కాకుండా అక్రమ ప్రయోజనాల కోసం ఉపయోగించినట్లు ఆరోపించింది. సంస్థ భద్రతా పరిమితులను తప్పించుకునే ప్రయత్నాలు చేసి, నిషేధిత కంటెంట్ రూపొందించేందుకు ఉద్దేశపూర్వకంగా పలు విధానాలు అనుసరించినట్లు తెలిపింది. ఇది కేవలం సేవా నిబంధనల ఉల్లంఘన మాత్రమే కాకుండా, సమాజానికి హానికరమైన కార్యకలాపాలకు ఏఐ సాంకేతికతను ఉపయోగించే ప్రయత్నమని xAI పేర్కొంది.

లైంగిక డీప్‌ఫేక్‌లు అనేవి కృత్రిమ మేధస్సు సహాయంతో నిజమైన వ్యక్తుల ముఖాలను లేదా రూపాన్ని అనుమతి లేకుండా అసభ్యకర చిత్రాలు, వీడియోలలో మార్చి చూపించే సాంకేతిక ప్రక్రియ. ఇటీవలి కాలంలో ప్రపంచవ్యాప్తంగా ఈ తరహా కంటెంట్ వేగంగా పెరుగుతుండటంతో ప్రభుత్వాలు, టెక్నాలజీ సంస్థలు, చట్ట అమలు సంస్థలు ఆందోళన వ్యక్తం చేస్తున్నాయి. ముఖ్యంగా వ్యక్తిగత గోప్యత, మహిళల భద్రత, సామాజిక ప్రతిష్ఠపై ఇవి తీవ్ర ప్రభావం చూపుతున్నాయని నిపుణులు హెచ్చరిస్తున్నారు.