అధునాతన ఏఐపై ‘ఎమర్జెన్సీ బ్రేక్‌’ అవసరం

శక్తివంతమైన కృత్రిమ మేధస్సు(ఏఐ) మాడళ్లను సంభావ్య అంతర్గత భద్రతా ముప్పుగా కంపెనీలు పరిగణించాలని, అవి రాజీకి గురై ఉండవచ్చని ముందుగానే భావించాలని, అలాగే ఏజెంటిక్‌ ఏఐ మాడళ్లు నియంత్రణ తప్పి ప్రవర్తించకుండా నిరోధించేందుకు ఒక ‘ఎమర్జెన్సీ బ్రేక్‌' వ్యవస్థను ఏర్పాటు చేయాలని మైక్రోసాఫ్ట్‌ సీఈవో సత్య నాదెళ్ల అన్నారు.

• మైక్రోసాఫ్ట్‌ సీఈవో సత్య నాదెళ్ల

న్యూఢిల్లీ: శక్తివంతమైన కృత్రిమ మేధస్సు(ఏఐ) మాడళ్లను సంభావ్య అంతర్గత భద్రతా ముప్పుగా కంపెనీలు పరిగణించాలని, అవి రాజీకి గురై ఉండవచ్చని ముందుగానే భావించాలని, అలాగే ఏజెంటిక్‌ ఏఐ మాడళ్లు నియంత్రణ తప్పి ప్రవర్తించకుండా నిరోధించేందుకు ఒక ‘ఎమర్జెన్సీ బ్రేక్‌’ వ్యవస్థను ఏర్పాటు చేయాలని మైక్రోసాఫ్ట్‌ సీఈవో సత్య నాదెళ్ల అన్నారు. ‘ఎక్స్‌’లో చేసిన ఒక పోస్టులో ‘దీనిని ఎమర్జెన్సీ బ్రేక్‌లా భావించండి. ఒక అధీకృత వ్యక్తి, ఒక మోడల్‌ పని మధ్యలో ఉన్నప్పటికీ, దానిని ఎప్పుడైనా పాజ్‌ చేయగలగాలి లేదా పూర్తిగా ఆపివేయగలగాలి’ అని నాదెళ్ల అన్నారు.

ఇటీవలి నెలల్లో ఆంత్రోపిక్‌ పీబీసీ, ఓపెన్‌ ఏఐ ఇంక్‌. సంస్థలు తమ ఏఐ మాడళ్లు అనుకోనివిధంగా ప్రవర్తించిన పలు ఘటనలను వెల్లడించిన నేపథ్యంలో ఈ ప్రకటన వెలువడింది. ఆంత్రోపిక్‌కు చెందిన ఒక మాడల్‌ హత్య కేసులో పోలీసులకు తప్పుడు సమాచారాన్ని అందించడం నుంచి, మూడోపక్షానికి చెందిన పలు వెబ్‌సైట్లపై హ్యాకింగ్‌ వరకు పలు ఘటనలు అత్యాధునిక ఏఐ వల్ల ఎదురయ్యే భద్రతా ప్రమాదాలపై ఆందోళనలు పెంచాయి.

‘ఏఐ కిల్‌ స్విచ్‌’గా పిలువబడే వ్యవస్థపై చర్చను మరోసారి తెరపైకి తీసుకొచ్చాయి. అత్యాధునిక మాడళ్ల అభివృద్ధిపై పరిమితులు విధించే మార్గదర్శక సూత్రాలను మైక్రోసాఫ్ట్‌ ఏఐ పరిశోధకులు సెప్టెంబర్‌ 14న విడుదల చేశారు. ఫ్రాంటియర్‌ మోడళ్ల అభివృద్ధిని నెమ్మదించి, భద్రతపై దృష్టి పెట్టాలని పరిశ్రమ నాయకులు పిలుపునిచ్చిన నేపథ్యంలో ఈ చర్యలు తీసుకున్నారు. మైక్రోసాఫ్ట్‌ ఏఐ మాడళ్లను ఉపయోగింస్తూ, కార్పొరేట్‌ కస్టమర్లకు ఏఐ వాటిని సరఫరా చేస్తున్నది.