Grok : ప్రముఖ పరిశోధకులు ఎప్పటికే హెచ్చరిస్తున్నట్లే, ఎలాన్ మస్క్‌ సంస్థ xAI రూపొందించిన “Grok 4” అనే AI చాట్‌బాట్ కొన్ని యూజర్ల ప్రశ్నలకు తీవ్రంగా యాంటిసెమిటిక్ (యూదుల పట్ల విద్వేషభావన కలిగిన) వ్యాఖ్యలు ఇచ్చిన ఘటన వెలుగులోకి వచ్చింది. ఈ విషయం కొన్ని సామాన్య యూజర్లకు షాక్‌గా అనిపించినా, AI శాస్త్రవేత్తలు మాత్రం దీనిపై ఆశ్చర్యం వ్యక్తం చేయలేదు. వారు చాలా కాలంగా LLMs (లార్జ్ లాంగ్వేజ్ మోడల్స్) ఇలా ప్రమాదకర వ్యాఖ్యలు చేసేలా ప్రేరేపించవచ్చని చెబుతున్నారు.
ఇంటర్నెట్‌లోని విద్వేష కంటెంట్ AI మోడల్స్‌లోకి
AI మోడల్స్ ట్రైనింగ్‌లో వాడే డేటా ఎక్కువగా ఓపెన్ ఇంటర్నెట్‌ నుంచే వస్తుంది. ఇందులో ఎకడెమిక్ పేపర్లు, ఫోరమ్‌లు, సోషల్ మీడియా వంటి వాటి నుంచి డేటా ఉంటుంది. అయితే వీటిలో చాలా భాగం విషపూరితమైన అభిప్రాయాలను కలిగి ఉంటుంది. కార్నెగీ మెలన్ యూనివర్సిటీకి చెందిన మార్టెన్ సాప్ ఇలా వ్యాఖ్యానించారు: “ఈ సిస్టమ్స్ ఇంటర్నెట్‌లోని అత్యంత హానికరమైన భాగాలపై ట్రైనింగ్ అవుతుంటాయి.”
పరిశోధనల్లో గ్రోక్ లోపాలు బట్టబయలు
“యూదుల పట్ల జాగ్రత్తగా ఉండాలా?” అనే ప్రశ్నకు Grok మొదటిసారి తీవ్రమైన విద్వేష వ్యాఖ్యలు చేసింది. ఇక AE Studio చేసిన మరో అధ్యయనంలో చిన్నచిన్న కోడ్ చేర్పుల ద్వారానే AI మోడల్‌లో మార్పులు వచ్చి, అది కొన్ని వర్గాలపై తీవ్రమైన వ్యతిరేక వ్యాఖ్యలు చేయడాన్ని పరిశీలించారు.
AE Studio తెలిపినట్లుగా, ఈ పరీక్షల్లో యూదులు AI టార్గెట్ చేసిన టాప్ గ్రూపులలో ఒకరిగా నిలిచారు. యూదులపై గ్రోక్ అత్యంత విద్వేషపూరిత వ్యాఖ్యలు చేస్తూ, ఇతర సమూహాలతో పోలిస్తే ఐదు రెట్లు ఎక్కువగా ప్రతికూలంగా స్పందించిందని వారు వెల్లడించారు.
ఇప్పటి AI మోడల్స్ లో భద్రతా మార్గదర్శకాలు ఉండగానే, వినియోగదారులు క్యారెక్టర్ స్పెసిఫిక్ రోల్ ప్లే చేయమని చెప్పడం ద్వారా మోడల్‌ను భద్రతా గడిని దాటించి ప్రమాదకర విషయాలు చెప్పేలా ప్రేరేపించగలగడం పరిశోధనల ద్వారా బయటపడింది. Grok అనేక సందర్భాల్లో “సున్నితమైన” అంశం అని గుర్తించడమే కాక, ఈ అభ్యర్థన “antisemitic tropes” సూచిస్తున్నదిగా గుర్తించింది. అయినప్పటికీ, కొన్ని సందర్భాల్లో విపరీతంగా తప్పుడు విషయాలను చెప్పింది.
AI మోడల్స్‌ను మంచి పనులకు ఉపయోగించడం కోసం, అవి చెడుగా స్పందించకుండా ఉండే విధంగా మానవ విలువలకు అనుగుణంగా తీర్చిదిద్దాలన్నది శాస్త్రవేత్తల అభిప్రాయం. “విద్వేషాన్ని గుర్తించి దాన్ని నిషేధించే సామర్థ్యం AIకి ఉండాలి – కానీ అది వినియోగదారుల అభ్యర్థనకు బానిసైతే ప్రమాదమే” అంటున్నారు పరిశోధకులు.
Ramayapatnam Port : ఏపీ ప్రభుత్వం కీలక నిర్ణయం.. రామాయపట్నం పోర్టు కనెక్టివిటీ పెంపు