AI | ఏఐతో మానవాళి అంతం..? ఏఐ పరిశోధకుడు జాకబ్‌ కాక్సన్‌ సంచలన వ్యాఖ్యలు

గత మూడేండ్లుగా ఓపెన్‌ ఏఐ, ఆంత్రోపిక్‌ సంస్థల్లో ప్రీట్రైనింగ్‌ పరిశోధన నిర్వహించిన ఒక ఏఐ పరిశోధకుడు, అత్యంత శక్తివంతమైన ఏఐ వ్యవస్థలను అభివృద్ధి చేసే పోటీ ప్రమాదకరమైన స్థాయికి చేరుకుంటున్నదని హెచ్చరిస్తూ ఆంత్రోపిక్‌ సంస్థకు రాజీనామా చేశారు. జాకబ్‌ కాక్సన్‌ సెప్టెంబర్‌ 9న ‘ఎక్స్‌'లో ఒక పోస్టు ద్వారా తన రాజీనామాను ప్రకటించారు. తాను ఓపెన్‌ ఏఐ, ఆంత్రోపిక్‌ రెండు సంస్థల్లోనూ పనిచేశానని పేర్కొంటూ, మరింత సామర్థ్యం కలిగిన ఏఐ వ్యవస్థలను అభివృద్ధి చేయడంలో ఈ సంస్థలు బాధ్యతాయుతంగా వ్యవహరించడం లేదని ఆరోపించారు.

• ఎలాంటి భద్రతా చర్యలు లేకుండా సూపర్‌హ్యూమన్‌ను సృష్టిస్తున్న ల్యాబ్‌లు
• ఏఐ పరిశోధకుడు జాకబ్‌ కాక్సన్‌ సంచలన వ్యాఖ్యలు
• ఆంత్రోపిక్‌కు రాజీనామా

న్యూఢిల్లీ: గత మూడేండ్లుగా ఓపెన్‌ ఏఐ, ఆంత్రోపిక్‌ సంస్థల్లో ప్రీట్రైనింగ్‌ పరిశోధన నిర్వహించిన ఒక ఏఐ పరిశోధకుడు, అత్యంత శక్తివంతమైన ఏఐ వ్యవస్థలను అభివృద్ధి చేసే పోటీ ప్రమాదకరమైన స్థాయికి చేరుకుంటున్నదని హెచ్చరిస్తూ ఆంత్రోపిక్‌ సంస్థకు రాజీనామా చేశారు. జాకబ్‌ కాక్సన్‌ సెప్టెంబర్‌ 9న ‘ఎక్స్‌’లో ఒక పోస్టు ద్వారా తన రాజీనామాను ప్రకటించారు. తాను ఓపెన్‌ ఏఐ, ఆంత్రోపిక్‌ రెండు సంస్థల్లోనూ పనిచేశానని పేర్కొంటూ, మరింత సామర్థ్యం కలిగిన ఏఐ వ్యవస్థలను అభివృద్ధి చేయడంలో ఈ సంస్థలు బాధ్యతాయుతంగా వ్యవహరించడం లేదని ఆరోపించారు.

ఆయన వ్యాఖ్యలు ఆన్‌లైన్‌లో విస్తృత చర్చకు దారితీశాయి. “ఈ రెండు సంస్థలు స్వయంగా అభివృద్ధి చెందగల సూపర్‌ ఇంటెలిజెన్స్‌ వైపు వేగంగా పరుగులు తీస్తూ, మన జీవితాలను పణంగా పెడుతున్నాయి” అని కాక్సన్‌ తెలిపారు. అత్యాధునిక ఏఐ వ్యవస్థల సామర్థ్యాలను ప్రజలు తక్కువగా అంచనా వేయకూడదని హెచ్చరించారు. భవిష్యత్తు ఏఐ వ్యవస్థలు సూపర్‌ హ్యూమన్‌ స్థాయికి చేరుకోవచ్చని, కంప్యూటర్‌ వ్యవస్థలను హ్యాక్‌ చేయడం, శాస్త్రీయ సాంకేతిక పురోగతిని వేగవంతం చేయడం, వాస్తవ ప్రపంచంలోని వనరులు, అధికారాన్ని పొందే అవకాశం ఉన్నదని ఆయన అన్నారు.

అత్యాధునిక ఏఐని అభివృద్ధి చేస్తున్న కొందరు వ్యక్తులు, ఈ సాంకేతికత దశాబ్దంలోనే మానవాళికి అస్తిత్వపరమైన ముప్పుగా మారవచ్చని వ్యక్తిగతంగా విశ్వసిస్తున్నారని కూడా ఆయన పేర్కొన్నారు. కాక్సన్‌ అభిప్రాయం ప్రకారం ఓపెన్‌ ఏఐ, ఆంత్రోపిక్‌లో పరిస్థితులు వేర్వేరుగా ఉన్నాయి. ఓపెన్‌ ఏఐలోని కొంతమంది పరిశోధకులు తాను పేర్కొన్న నాగరికతకు సంబంధించిన ప్రమాద తీవ్రతను పూర్తిగా అర్థం చేసుకోలేదని, ఆంత్రోపిక్‌లోని పరిశోధకులు మాత్రం ప్రమాదాలను అర్థం చేసుకున్నప్పటికీ, మరో కంపెనీ లేదా దేశం ముందుకు వెళ్లిపోతుందనే ఆందోళనతో పోటీ నుంచి బయటపడలేకపోతున్నారని ఆరోపించారు. నియంత్రణలేని ఏఐ పోటీని నిరోధించేందుకు మరింత అంతర్జాతీయ సమన్వయం అవసరమని ఆయన పిలుపునిచ్చారు. ప్రపంచవ్యాప్తంగా ఏఐ అభివృద్ధి పోటీని నివారించాలంటే, మోడళ్ల సామర్థ్యాలను మెరుగుపరచడాన్ని తాత్కాలికంగా పరిమితం చేయడం వంటి గణనీయమైన చర్యలు అవసరమని ఆయన సూచించారు.

ఏఐ ప్రమాదాలపై ఆన్‌లైన్‌లో చర్చ
కాక్సన్‌ రాజీనామా ఆన్‌లైన్‌లో తీవ్ర చర్చకు దారితీసింది. ఆయన హెచ్చరికలు అవసరమైన జోక్యాన్ని సూచిస్తున్నాయా లేదా ఏఐ ప్రమాదాలను ఎక్కువగా అంచనా వేస్తున్నారా అనే అంశంపై వినియోగదారులు భిన్నాభిప్రాయాలు వ్యక్తం చేశారు. సాంప్రదాయ ఆయుధాలు లేదా జీవసంబంధమైన క్రిములు, కారకాలు లేకుండా ఏఐ వాస్తవంగా మానవ వినాశనానికి ఎలా కారణమవుతుందని కొందరు వినియోగదారులు ప్రశ్నించారు. మరికొందరు ఏఐ వ్యవస్థలు మానవాళి మనుగడకు ముప్పుగా మారే అవకాశం లేదని వాదిస్తూ ఈ హెచ్చరికలను తోసిపుచ్చారు. ఏఐ అభివృద్ధిని నెమ్మదింపజేయడం వల్ల కలిగే భౌగోళిక-రాజకీయ పరిణామాలపై కూడా మరో విమర్శ వచ్చింది.

అమెరికా కంపెనీలు ఏకపక్షంగా పరిమితులు విధిస్తే, చైనా లేదా ఇతర దేశాలు ఆధిక్యం సాధించే అవకాశం ఉన్నదని కొందరు వాదించారు. అయితే ఇతరులు అభివృద్ధి కొనసాగిస్తుండగా ఒక్క కంపెనీ మాత్రమే ఆగిపోవడం పరిష్కారం కాదని కాక్సన్‌ అన్నారు. ప్రభుత్వాలు, ఏఐ ల్యాబ్‌లు కలిసి భద్రతా చర్యలపై సమన్వయం చేసుకోవాలని ఆయన సూచించారు. ఆంత్రోపిక్‌కు చెందిన ఏఐ భద్రతా పరిశోధకుడు ఇవాన్‌ హుబింగర్‌ కూడా వచ్చే దశాబ్దంలో ఏఐ మానవాళిని అంతం చేసే అవకాశం 10 శాతానికి పైగా ఉన్నదని తాను నమ్ముతున్నట్టు గతంలో చెప్పారు. అయితే ఏఐ అలైన్‌మెంట్‌ సమస్యకు ఆంత్రోపిక్‌ వద్ద ఇంకా పూర్తి పరిష్కారం లేదని కూడా ఆయన అంగీకరించారు.