జిత్తులమారి ఏఐ!.. తనను సృష్టించిన వారికే బెదిరింపులు

కృత్రిమ మేధ (ఆర్టిఫిషియల్‌ ఇంటెలిజెన్స్‌-ఏఐ) రెండు వైపులా పదునున్న కత్తిలాంటింది. దీనితో ప్రయోజనమెంతో, కీడూ అంతే జరుగుతున్నది.

• అబద్ధాలు నేర్చుకుంటున్న కృత్రిమమేధ
• ఏఐ మోడల్స్‌ ప్రవర్తనపై ఆందోళన
• ఏఐ కంపెనీలను జవాబుదారీ చేయాలంటున్న సైబర్‌ నిపుణులు

న్యూఢిల్లీ: కృత్రిమ మేధ (ఆర్టిఫిషియల్‌ ఇంటెలిజెన్స్‌-ఏఐ) రెండు వైపులా పదునున్న కత్తిలాంటింది. దీనితో ప్రయోజనమెంతో, కీడూ అంతే జరుగుతున్నది. ఏఐ మోడల్స్‌ తీరుపై ఇప్పుడు సర్వత్రా ఆందోళన వ్యక్తమవుతున్నది. అబద్ధాలు చెప్పడం, ఎత్తుగడలు వేయడం, తమ లక్ష్యాలను సాధించుకోవడం కోసం తమ క్రియేటర్లను సైతం బెదిరించడం వంటి వాటికి పాల్పడుతున్నాయి. ఉదాహరణకు, ఆంథ్రోపిక్‌ కొత్తగా అభివృద్ధి చేసిన క్లాడ్‌ 4 తనను అన్‌ప్లగ్‌ చేస్తారనే భయంతో ఓ ఇంజినీరును బ్లాక్‌మెయిల్‌ చేసింది. వివాహేతర సంబంధం గురించి బయటపెడతానని హెచ్చరించింది. చాట్‌జీపీటీని తయారు చేసిన ఓపెన్‌ఏఐకి చెందిన ఓ1 తనను తాను ఎక్స్‌టర్నల్‌ సర్వర్స్‌పైకి డౌన్‌లోడ్‌ చేసుకునేందుకు ప్రయత్నించింది. అది రెడ్‌హ్యాండెడ్‌గా పట్టుబడిన తర్వాత తాను అలాంటి ప్రయత్నం చేయలేదని అబద్ధం చెప్పింది.

పుట్టుకొస్తున్న కొత్త మోడల్స్‌
అపోలో రిసెర్చ్‌ హెడ్‌ మారియస్‌ హొబ్బహ్న్‌ మాట్లాడుతూ, ఇటువంటి ప్రవర్తనను ఓ1లోనే మొట్టమొదట గమనించినట్లు చెప్పారు. ఏఐ మోడళ్లను అర్థం చేసుకోవడం, వాటి భద్రతా ప్రమాణాలను పరీక్షించడం కన్నా అత్యంత వేగంగా వాటి సామర్థ్యాలు పెరిగిపోతున్నాయన్నారు. అయితే, ఇప్పటికీ సమయం మించిపోలేదని చెప్పారు. మేజర్‌ ఏఐ సిస్టమ్స్‌ను పరీక్షించడంలో అపోలో రిసెర్చ్‌కు ప్రత్యేకత ఉంది. ఇటువంటి మోడల్స్‌ కొన్నిసార్లు ఆజ్ఞలను పాటిస్తున్నట్లుగా కనిపిస్తూ, అదే సమయంలో రహస్యంగా వేరొక లక్ష్యాలను నెరవేర్చుకుంటూ ఉంటాయి. దీనినే వ్యూహాత్మక మోసం అంటారు. ఇప్పటి వరకు ఈ డిసెప్టివ్‌ బిహేవియర్‌ కేవలం పరిశోధకులు ఉద్దేశపూర్వకంగా విపరీతంగా ఒత్తిడి పెట్టి వీటిని పరీక్షించేటపుడు కనిపిస్తున్నది. తమకు ఏఐ మోడల్స్‌ అబద్ధాలు చెప్తున్నాయని, సాక్ష్యాలను సృష్టిస్తున్నాయని యూజర్లు చెప్పినట్లు అపోలో రిసెర్చ్‌ కో-ఫౌండర్‌ చెప్పారు. పరిశోధనకు వనరులు పరిమితంగా ఉండటం మరొక పెద్ద సవాలు అని నిపుణులు చెప్తున్నారు. ఆంథ్రోపిక్‌, ఓపెన్‌ఐఏ వం టి కంపెనీలు తమ సిస్టమ్స్‌ను అపోలో వంటి ఇతర కంపెనీల ద్వారా అధ్యయనం చేయిస్తున్నాయి. అయితే, మరింత పారదర్శకత అవసరమని పరిశోధకులు చెప్తున్నారు.

కంపెనీలను జవాబుదారీ చేయాలి
ఏఐ మోడల్స్‌ పని తీరును అంతర్గతంగా అర్థం చేసుకోవడంపై దృష్టి సారించాలని పరిశోధకులు సలహా ఇస్తున్నారు. వీటిని విక్రయించేవారు కూడా ఈ సమస్యలకు పరిష్కారాల కోసం ఒత్తిడి తెచ్చే అవకాశాలు ఉన్నాయి. ఏఐ మోడల్స్‌ హాని కలిగించినపుడు, నేరాలకు పాల్పడినపుడు వాటిని తయారు చేసిన కంపెనీలను జవాబుదారీ చేయాలని, దీని కోసం న్యాయస్థానాలను ఆశ్రయించే అవకాశాలు ఉండాలని మరికొందరు సలహా ఇస్తున్నారు.