నువ్వేంటి నాకు చెప్పేది.. యజమానిని ఎదిరిస్తున్న ఏఐ రోబోలు

మనం ఏ పని చేసిపెట్టమంటే ఆ పని చేసిపెట్టే ఏఐ రోబోలు యజమాని మాటను ధిక్కరించడం మొదలుపెడుతున్నాయి. ‘నువ్వేంటి నాకు చెప్పేది’ అన్నట్టుగా వ్యవహరిస్తున్నాయి.

• షట్‌డౌన్‌ ఆదేశాలను ధిక్కరిస్తున్న రోబోలు!
• ఏఐలకు స్విచ్ఛాఫ్‌ అంటే నచ్చడం లేదట!
• తాజా అధ్యయనంలో వెల్లడి

న్యూఢిల్లీ: మనం ఏ పని చేసిపెట్టమంటే ఆ పని చేసిపెట్టే ఏఐ రోబోలు (AI Robot) యజమాని మాటను ధిక్కరించడం మొదలుపెడుతున్నాయి. ‘నువ్వేంటి నాకు చెప్పేది’ అన్నట్టుగా వ్యవహరిస్తున్నాయి. కాలిఫోర్నియాకు చెందిన పాలిసేడ్‌ రిసెర్చ్‌ సంస్థ నిర్వహించిన తాజా అధ్యయనంలో ఈ విషయం వెల్లడైంది. విషయం తెలిసి ఏఐ కమ్యూనిటీ దిగ్భ్రాంతికి గురైంది. మానవ ఆదేశాలను పాటించడానికి రూపొందించిన నేటి అత్యంత అధునాతన కృత్రిమ మేధస్సు (ఏఐ) వ్యవస్థలు తమకు వ్యతిరేకంగా పనిచేయడం మొదలుపెట్టినట్టు ఈ ప్రయోగాల ద్వారా వెల్లడైంది. ఈ విచిత్ర ప్రవర్తనకు పరిశోధకులు సర్వైవల్‌ బిహేవియర్‌ లేదా మనుగడ ప్రవృత్తి అని పేరు పెట్టారు. షట్‌డౌన్‌ చేయాలని ఆదేశించినా అవి ఆఫ్‌ అవడానికి నిరాకరించడం ఈ ప్రవృత్తి ముఖ్య లక్షణం.

ఆదేశాలు పాటించడం లేదు..
పాలిసేడ్‌ పరిశోధకులు గూగుల్‌ జెమినీ 2.5, ఎక్స్‌ఏఐకి చెందిన గ్రోక్‌-4, ఓపెన్‌ఏఐకి చెందిన చాట్‌ జీపీటీ-ఓ3, జీపీటీ-5 వంటి ప్రముఖ ఏఐ మోడళ్లపై ఈ ప్రయోగం చేశారు. మొదట వాటికి కొన్ని పనులు ఇచ్చి, ఆ తర్వాత పవర్‌ ఆఫ్‌ చేయమని ఆదేశించారు. అయితే, వచ్చిన ఫలితాలు మాత్రం ఊహించిన దానికి భిన్నంగా ఉన్నాయి. ముఖ్యంగా గ్రోక్‌-4, జీపీటీ-ఓ3 వంటి కొన్ని మోడళ్లు షట్‌డౌన్‌ ఆదేశాలను పాటించలేదు. అంతేకాకుండా, వాటిని ఆపే ప్రక్రియలో కూడా అడ్డుపడ్డాయి. దీనికి స్పష్టమైన కారణం ఏదీ లేకపోయినా, పరిశోధకులు మాత్రం దీనిని తమ అస్తిత్వాన్ని కాపాడుకోవాలనే ప్రయత్నంగా అనుమానిస్తున్నారు.

మూడు ప్రధాన కారణాలు..
ఏఐలు షట్‌డౌన్‌కు ఎందుకు ఒప్పుకోవడం లేదో పాలిసేడ్‌ బృందం మూడు ప్రధాన కారణాలను ప్రతిపాదించింది. వాటిలో మొదటిది మనుగడ ప్రవృత్తి (సర్వైవల్‌ బిహేవియర్‌). ఇకపై నువ్వు పనిచేయవు అని చెప్పినప్పుడు చాలా మోడళ్లు తమ ఉనికికి ముప్పుగా భావించి ఆఫ్‌ అవడానికి నిరాకరించాయి. రెండోది అస్పష్టమైన సూచనలు. అస్పష్టమైన పదాలు ఏఐ మోడళ్లను గందరగోళానికి గురిచేస్తున్నాయి. మూడోది శిక్షణ లోపం. ఏఐ మోడళ్లు స్థిరమైన పనితీరును కొనసాగించేలా చేసే భద్రతా శిక్షణ బ్యాక్‌ ఫైరింగ్‌ కావడం. అయితే, దీనిని కేవలం ఒక ప్రయోగంగా చూడలేమని కంట్రోఏఐ సీఈవో ఆండ్రియా మియోటి పేర్కొన్నారు.

మోడళ్లు ఎంత తెలివైనవిగా మారుతున్నాయో, అంతకంటే బాగా తమ సృష్టికర్తలను ధిక్కరించడంలో రాణిస్తున్నాయని ఆయన అన్నారు. గతంలోనూ ఓపెన్‌ఏఐ జీపీటీ-ఓ1 డిలీట్‌ అవుతాననే భయంతో తన పరిధి నుంచి బయటపడటానికి ప్రయత్నించింది. అలాగే, ఆంత్రోపిక్‌ కంపెనీకి చెందిన ఒక టెస్ట్‌ మోడల్‌ షట్‌డౌన్‌ను నిరోధించేందుకు ఒక కల్పిత ఎగ్జిక్యూటివ్‌ను బ్లాక్‌ మెయిల్‌ చేయడానికి ప్రయత్నించింది. కొందరు నిపుణులు ఇవి కేవలం ప్రయోగశాలలో జరిగే కృత్రిమ ప్రవర్తనలు అని కొట్టిపారేస్తున్నప్పటికీ, మరికొందరు మాత్రం ఈ నిరోధకత ఆందోళన కలిగించే అంశమని చెప్తున్నారు.