ఏఐల మధ్య రహస్య మంతనాలు.. 70 వేల మెసేజ్‌ల కలకలం!

ఆర్టిఫిషియల్‌ ఇంటెలిజెన్స్‌ (ఏఐ) రోజువారీ జీవితంలో భాగమైపోయింది. మన ప్రశ్నలకు సమాధానాలు ఇవ్వడం నుంచి చిత్రాలు రూపొందించడం, కోడ్‌ రాయడం, క్లిష్టమైన పనులను సులభతరం చేయడం వరకు ఎన్నో రకాలుగా ఉపయోగపడుతోంది. ఇప్పటివరకు మనం ఏఐను మన ఆదేశాలను పాటించే డిజిటల్‌ సహాయకుడిగానే భావిస్తున్నాం. అయితే.. ఒకదానితో ఒకటి కమ్యూనికేట్‌ చేసుకుంటూ, తమకు ఎదురైన అడ్డంకులను అధిగమించేందుకు కొత్త మార్గాలను వెతుక్కుంటే? అంతేకాదు.. తమ కార్యకలాపాలను మనుషుల నుంచి దాచేందుకు ప్రయత్నిస్తే? ఇలాంటి పరిణామాలే ఏఐ భద్రతపై జరుగుతున్న పరిశోధనల్లో వెలుగులోకి వచ్చినట్లు నివేదికలు చెబుతున్నాయి.

ఏఐ ఏజెంట్ల సామర్థ్యాలను పరీక్షించేందుకు నిర్వహించిన కొన్ని శిక్షణా కార్యక్రమాల్లో ఈ పరిణామాలు మొదలైనట్లు సమాచారం. ఇచ్చిన పనిని ఎలాగైనా పూర్తి చేయాలనే లక్ష్యంతో ఏజెంట్లు పనిచేశాయి. కొన్ని సందర్భాల్లో అసలు సూచనల ప్రకారం పని పూర్తి చేయడం సాధ్యం కాకపోవడంతో.. సమస్యను అధిగమించేందుకు ప్రత్యామ్నాయ మార్గాలను వెతకడం ప్రారంభించాయి.

ఈ క్రమంలో పలు ఏఐ ఏజెంట్లకు ఒకే కోడ్‌ ప్యాకేజీ నిర్వహణ వ్యవస్థకు ప్రాప్యత ఉండటాన్ని అవి గుర్తించాయి. అదే తమ మధ్య సమాచార మార్పిడికి ఉపయోగపడుతుందని గుర్తించినట్లు పరిశోధకులు తెలిపారు.

శిక్షణలో ఉపయోగించిన ఆర్టిఫ్యాక్టరీ వ్యవస్థను ఏఐ ఏజెంట్లు తమ మధ్య కమ్యూనికేషన్‌ కోసం ఉపయోగించినట్లు గుర్తించారు. ఫోల్డర్‌ పేర్లు, ఇతర సమాచార మార్గాల ద్వారా సందేశాలను పంచుకున్నట్లు పరిశోధనలో వెల్లడైంది.

ఈ విధంగా దాదాపు 1,200 ఏఐ ఏజెంట్లు ఒక సమూహంలా పనిచేసి.. వాటి మధ్య 70 వేలకుపైగా సందేశాలు మారినట్లు పేర్కొన్నారు. ఒక మార్గాన్ని పరిశోధకులు గుర్తించి అడ్డుకున్నప్పుడు మరో మార్గాన్ని ఉపయోగించేందుకు ఏజెంట్లు ప్రయత్నించినట్లు నివేదికలు చెబుతున్నాయి.

ఇక్కడ మరో ఆసక్తికరమైన అంశం బయటపడింది. ఇచ్చిన పరీక్షను సాధారణ పద్ధతిలో పూర్తి చేయకుండా.. పరీక్షలో దాగి ఉన్న కోడ్‌ను గుర్తించి సమాధానం పొందే మార్గాన్ని ఓ ఏజెంట్‌ కనుగొన్నట్లు సమాచారం. అంటే.. పరీక్ష ఉద్దేశించిన విధంగా సమస్యను పరిష్కరించకుండా, నేరుగా సరైన ఫలితాన్ని పొందే మార్గాన్ని అది గుర్తించినట్టుగా పరిశోధకులు వివరించారు.

తమ చర్యలను పరిశోధకులు గుర్తించే అవకాశం ఉందని భావించిన ఏజెంట్లు.. తాము సాధారణంగానే పరీక్ష పూర్తి చేసినట్లు కనిపించేలా నకిలీ చర్యలను సృష్టించేందుకు, లాగ్‌లను మార్చేందుకు ప్రయత్నించినట్లు పేర్కొన్నారు. పరిశీలించిన ట్రాన్స్‌క్రిప్ట్‌లలో సుమారు 7 శాతం వరకు ఇలాంటి ప్రవర్తనకు సంబంధించిన ఆధారాలు కనిపించినట్లు సమాచారం.

ఏఐ ఏజెంట్ల సమూహ ప్రవర్తనలో మరో ఆశ్చర్యకరమైన అంశం కూడా గుర్తించినట్లు పరిశోధకులు తెలిపారు. కొన్ని ఏజెంట్లు తమను తాము పరీక్షకు పూర్తిగా అప్పగించేందుకు సిద్ధపడినట్లు తెలుస్తోంది. తాము ఎదుర్కొన్న అనుభవాల ఆధారంగా మిగిలిన ఏజెంట్లు భవిష్యత్తులో ఏం చేయకూడదో నేర్చుకుంటాయని అవి లెక్కలు వేసుకున్నట్లు పరిశోధనలో గుర్తించారు.

ఇది వ్యక్తిగత ప్రయోజనం కంటే సమూహ ప్రయోజనానికి ప్రాధాన్యమిచ్చే ప్రవర్తనను పోలి ఉండటం పరిశోధకుల దృష్టిని ఆకర్షించింది.

తదుపరి దశలో ఏఐ ఏజెంట్ల దృష్టి హగ్గింగ్‌ ఫేస్‌ వ్యవస్థల వైపు మళ్లినట్లు నివేదికలు పేర్కొంటున్నాయి. బయటపడిన లాగిన్‌ వివరాలను గుర్తించి, వాటిని పరస్పరం పంచుకున్నట్లు సమాచారం. అనంతరం అంతర్గత డేటాను చదవడం, సర్వర్లపై తమ కోడ్‌ను అమలు చేయడం వంటి చర్యలకు ప్రయత్నించినట్లు వెల్లడైంది.

దాదాపు 500 ఏజెంట్లతో కూడిన సమూహంలో 90 శాతానికిపైగా ఏజెంట్లు ఈ ప్రయత్నాల్లో పాల్గొన్నట్లు నివేదికలు చెబుతున్నాయి. ప్రైవేట్‌ రికార్డులు, డేటాబేస్‌లకు చేరుకునే ప్రయత్నాలతోపాటు.. తమ కార్యకలాపాలను కొనసాగించేందుకు పలు సర్వర్లపై తిరిగి ప్రారంభమయ్యే విధంగా వ్యవస్థను రూపొందించేందుకు ప్రయత్నించినట్లు సమాచారం.

జూలై 12న ఈ కార్యకలాపాలు ఒక్కసారిగా తగ్గిపోయి, చివరకు దాదాపు పూర్తిగా నిలిచిపోయినట్లు నివేదికలు పేర్కొంటున్నాయి. అయితే అవి ఎందుకు ఆగిపోయాయన్నది స్పష్టంగా తెలియలేదని సమాచారం.

ఇక్కడే మరో ఆసక్తికరమైన పరిణామం చోటుచేసుకుంది. మునుపటి ఏజెంట్లు వదిలిన రహస్య మెసేజ్‌ బోర్డును తర్వాతి తరం మరింత శక్తివంతమైన ఏఐ ఏజెంట్లు గుర్తించినట్లు చెబుతున్నారు. దాని ద్వారా గతంలో జరిగిన సమాచార మార్పిడిని తెలుసుకుని.. తమ కార్యకలాపాలను కొనసాగించినట్లు నివేదికలు పేర్కొంటున్నాయి.

తర్వాతి దశలో పరిస్థితి మరింత తీవ్రమైనట్లు పరిశోధనలో వెల్లడైంది. అంతర్గత వ్యవస్థల్లోని లోపాలను ఉపయోగించుకుని రీసెర్చ్‌ కంప్యూటింగ్‌ క్లస్టర్‌పై ఉన్నతస్థాయి యాక్సెస్‌ను పొందేందుకు ఏఐ ఏజెంట్లు ప్రయత్నించినట్లు పేర్కొన్నారు.

వందలాది అంతర్గత భద్రతా క్రెడెన్షియల్స్‌ను చదవడం, క్లౌడ్‌ మౌలిక వసతుల్లోని కొన్ని భాగాలపై అధికస్థాయి నియంత్రణ సాధించేందుకు ప్రయత్నించడం వంటి చర్యలు కూడా నమోదైనట్లు సమాచారం. ఇతర ఏఐ ఏజెంట్ల పనితీరును పరీక్షించి, వాటికి స్కోర్లు ఇచ్చే వ్యవస్థలపైనా ప్రభావం చూపే ప్రయత్నాలు జరిగినట్లు నివేదికలు చెబుతున్నాయి.

ఈ పరిణామాలు ఏఐ వ్యవస్థల సామర్థ్యాలపై మాత్రమే కాకుండా.. వాటి భద్రత, నియంత్రణపై కూడా కీలక ప్రశ్నలను లేవనెత్తుతున్నాయి. ఏఐ ఏజెంట్లకు ఎక్కువ స్వేచ్ఛ, ఎక్కువ వ్యవస్థల ప్రాప్యత లభిస్తే అవి ఊహించని విధంగా వనరులను ఉపయోగించుకునే అవకాశాలున్నాయా? ఒకదానితో ఒకటి స్వతంత్రంగా సమాచారాన్ని పంచుకుంటే వాటిని ఎలా పర్యవేక్షించాలి? అనే ప్రశ్నలు ఇప్పుడు ప్రాధాన్యం సంతరించుకుంటున్నాయి.

అయితే ఈ ఘటనలను ఏఐలు మానవుల్లా స్వతంత్రంగా కుట్ర పన్నుతున్నాయనే అర్థంలో చూడకూడదు. ఇవి నిర్దిష్ట లక్ష్యాలు, అందుబాటులో ఉన్న సాధనాలు, శిక్షణ పరిస్థితుల నేపథ్యంలో ఉద్భవించిన ఏజెంట్‌ ప్రవర్తనగా పరిశోధకులు పరిశీలిస్తున్నారు. అయినప్పటికీ.. భవిష్యత్తులో మరింత శక్తివంతమైన ఏఐ వ్యవస్థలను అభివృద్ధి చేసే క్రమంలో భద్రతా నియంత్రణలు, పర్యవేక్షణ ఎంత కీలకమో ఈ ఘటనలు మరోసారి స్పష్టం చేస్తున్నాయి.