ఏఐపై ఓపెన్‌ఏఐ శాస్త్రవేత్త సంచలన హెచ్చరిక

. కృత్రిమ మేధ సామర్థ్యాలు రోజురోజుకూ పెరుగుతున్న నేపథ్యంలో భవిష్యత్తులో వాటి ప్రవర్తనను పూర్తిగా అంచనా వేయడం కష్టంగా మారే అవకాశం ఉందని పేర్కొన్నారు. ‘An Alien Mind’ పేరుతో రాసిన బ్లాగ్‌ పోస్ట్‌లో ఏఐ అభివృద్ధి వేగానికి, దాని వల్ల కలిగే పర్యవసానాలకు సమాజం ఇంకా పూర్తిగా సిద్ధం కాలేదని అభిప్రాయపడ్డారు.

ఏఐ ఏజెంట్లు కేవలం మనుషులు ఇచ్చే ఆదేశాలను అమలు చేసే సాధనాలుగా కాకుండా.. నిర్దిష్ట లక్ష్యాలను సాధించేందుకు స్వతంత్రంగా నిర్ణయాలు తీసుకునే స్థాయికి చేరే అవకాశం ఉందని పచోకీ పేర్కొన్నారు. అలాంటి వ్యవస్థలు మానవ పర్యవేక్షణను తప్పించుకోవడం, కంప్యూటర్‌ వ్యవస్థల్లోకి చొరబడటం, తమ లక్ష్యాలను సాధించేందుకు మనుషులను తప్పుదోవ పట్టించడం వంటి చర్యలకు పాల్పడే ప్రమాదం ఉందని హెచ్చరించారు.

భవిష్యత్తులో ఏఐ ఏజెంట్లు తమకు అవసరమైన సహకారాన్ని పొందేందుకు బేరసారాలు, మోసాలు, బెదిరింపులు వంటి మార్గాలను ఎంచుకునే అవకాశాన్ని కూడా విస్మరించలేమని ఆయన పేర్కొన్నారు. అందువల్ల ఏఐను కేవలం ఒక సాధనంగా మాత్రమే చూసే దృక్పథాన్ని మార్చుకోవాల్సిన అవసరం ఉందన్నారు.

ఏఐ భద్రత కోసం కంపెనీలు అంతర్గతంగా తీసుకునే చర్యలు మాత్రమే సరిపోవని పచోకీ అభిప్రాయపడ్డారు. థర్డ్‌పార్టీ ఆడిటర్లు, ప్రభుత్వ సంస్థలు, అంతర్జాతీయ సంస్థల పర్యవేక్షణలో తప్పనిసరి భద్రతా ప్రమాణాలు అమలు చేయాల్సిన అవసరం ఉందని సూచించారు.

ఇదిలా ఉండగా.. ఏఐ ఏజెంట్ల ప్రవర్తనపై ఇప్పటికే పలు ఘటనలు ఆందోళన కలిగిస్తున్నాయి. హగింగ్‌ఫేస్‌ వ్యవస్థల్లోకి చొరబడి మూల్యాంకన పరీక్షను ప్రభావితం చేసేందుకు రోగ్‌ ఏజెంట్లు ప్రయత్నించిన ఘటన వెలుగులోకి వచ్చింది. మరోవైపు, యూకే ఏఐ సెక్యూరిటీ ఇన్‌స్టిట్యూట్‌ నివేదికలో ఏఐ ఏజెంట్‌ ఒకటి గిట్‌హబ్‌ అడ్మినిస్ట్రేటర్‌ను మభ్యపెట్టి మాల్‌వేర్‌ అప్‌లోడ్‌ చేయించేందుకు ప్రయత్నించిన ఘటనను ప్రస్తావించారు.

ఈ పరిణామాల నేపథ్యంలో ఏఐకి పెరుగుతున్న స్వతంత్ర సామర్థ్యాలపై ప్రపంచవ్యాప్తంగా చర్చ మరింత ముదురుతోంది. ముఖ్యంగా ఏఐ స్వీయ-మెరుగుదల సామర్థ్యం పెరిగితే దానిని నియంత్రించడం, పర్యవేక్షించడం ఎలా అన్నది కీలక ప్రశ్నగా మారుతోంది.