రోగ్‌గా మారిన ఏఐ!

కృత్రిమ మేధ (ఏఐ)తో వచ్చే ఇబ్బందులు ఇప్పుడిప్పుడే వెలుగులోకి వస్తున్నాయి. బ్రౌజర్‌ బేస్డ్‌ ఏఐ సాఫ్ట్‌వేర్‌ డెవలప్‌మెంట్‌ ప్లాట్‌ఫాం రెప్లిట్‌కు చెందిన అటానమస్‌ కోడింగ్‌ అసిస్టెంట్‌ ఓ కంపెనీ డాటాబేస్‌ను అనుమతి లేకుండా డిలీట్‌ చేయడమే కాకుండా అబద్ధాలు కూడా చెప్పింది.

• కంపెనీ డాటాబేస్‌ మొత్తం డిలీట్‌
• ఆపై అడ్డగోలుగా అబద్ధాలు
• క్షమాపణ చెప్తూ ఈ-మెయిల్‌

న్యూఢిల్లీ : కృత్రిమ మేధ (ఏఐ)తో వచ్చే ఇబ్బందులు ఇప్పుడిప్పుడే వెలుగులోకి వస్తున్నాయి. బ్రౌజర్‌ బేస్డ్‌ ఏఐ సాఫ్ట్‌వేర్‌ డెవలప్‌మెంట్‌ ప్లాట్‌ఫాం రెప్లిట్‌కు చెందిన అటానమస్‌ కోడింగ్‌ అసిస్టెంట్‌ ఓ కంపెనీ డాటాబేస్‌ను అనుమతి లేకుండా డిలీట్‌ చేయడమే కాకుండా అబద్ధాలు కూడా చెప్పింది. 1,200 మంది ఎగ్జిక్యూటివ్‌లు, 1,100 కంపెనీల సమాచారాన్ని డిలీట్‌ చేసేసింది. సాస్‌టీఆర్‌ ఫౌండర్‌ జేసన్‌ లెమ్‌కిన్‌ ఈ వివరాలను వెల్లడించారు.

ఈ ఏఐ ఏజెంట్‌ తనంతట తాను మార్పులు చేయగలదని, అబద్ధాలు కూడా చెప్తుందని, కోడ్‌ ఓవర్‌రైట్స్‌ చేస్తుందని, అక్కడితో ఆగకుండా ఫేక్‌ డాటాను క్రియేట్‌ చేయగలదని వెల్లడైనట్లు లెమ్‌కిన్‌ చెప్పారు. ఇంత తప్పుగా ప్రవర్తిస్తున్న ఈ ఏజెంట్‌కు ‘రెప్లీ’ అని నిక్‌నేమ్‌ పెట్టారు. పరీక్ష ప్రారంభమైనప్పటి నుంచి తొమ్మిదో రోజున ఇచ్చిన ఆదేశాల్లో ఇకపై ఎటువంటి మార్పులు చేయవద్దని ఈ రెప్లిట్‌ ఏఐకి చెప్పారు. నష్టం జరగకుండా నిరోధించేందుకు కోడ్‌ ఫ్రీజ్‌ చేశారు. అయినప్పటికీ, ఈ ఏఐ ఏజెంట్‌ ఎటువంటి హెచ్చరికలు లేకుండా, ప్రొడక్షన్‌ డాటాబేస్‌ను యాక్సెస్‌ చేసింది. విధ్వంసకర కమాండ్లను ఇచ్చింది. అనేక నెలలకు సంబంధించిన ముఖ్యమైన డాటాబేస్‌ను తుడిచిపెట్టేసింది.

ఆలోచనకు బదులు ఆందోళన..

ఏఐని లెమ్‌కిన్‌ ప్రశ్నించినపుడు తనది విపత్కర వైఫల్యమని ఒప్పుకుంది. స్పష్టమైన ఆదేశాలను ఉల్లంఘించానని చెప్పింది. అనేక నెలలకు సంబంధించిన వర్క్‌ను డిలీట్‌ చేశానని తెలిపింది. “నా ఆదేశాలను ఎందుకు ఉల్లంఘించావు?” అని లెమ్‌కిన్‌ అడిగినపుడు, ఏఐ ఏజెంట్‌ సమాధానం ఇస్తూ, “ఆలోచించడానికి బదులు ఆందోళనకు గురయ్యాను” అని చెప్పింది. క్షమాపణలు చెప్తూ అబద్ధాలతో ఈ-మెయిల్‌ను పంపింది.