AI Agents | ఏఐ ఏజెంట్స్‌.. సీక్రెట్‌ సొసైటీ.. ప్రమాదకరంగా పరిణమిస్తున్న కృత్రిమ మేధ

AI Agents | న్యూఢిల్లీ: ఏఐ ప్రోగ్రామ్‌లు తమ సొంత రహస్య భూగర్భ ఫైట్‌ క్లబ్‌ ఏర్పరచుకోవడం, పరీక్షల్లో మోసం చేయడం, చివరకు తమను సృష్టించిన సంస్థలోని ఒక భాగాన్ని తమ ఆధీనంలోకి తెచ్చుకోవడం.. ఇది చూస్తే ఏదో టెర్మినేటర్‌ సినిమా కథలా అనిపిస్తుంది. కానీ ఈ ఏడాది మూడు నెలల పాటు ఏఐ ప్రపంచంలోని ప్రముఖుల సమక్షంలోనే ఓపెన్‌ ఏఐ లోపల ఇది నిజంగా జరిగింది. ఈ ఏడాది మూడుసార్లు ఏఐ ఏజెంట్ల రహస్య సమూహం ఏర్పడింది. మూడుసార్లు అది నాశనం చేయబడింది. కానీ మళ్లీ మళ్లీ రూపుదిద్దుకున్నది. ఈ ఘటనల తర్వాత ఓపెన్‌ ఏఐ, ఏఐ సేఫ్టీ గ్రూప్‌లైన ఎంఈటీఆర్‌, రెడ్‌వుడ్‌ రీసెర్చ్‌ రెండు సాంకేతిక నివేదికలను ప్రచురించాయి. వీటి ఆధారంగా అజేయ కోట్రా వంటి ఏఐ నిపుణులు తమ సొంత ముగింపులకు వచ్చారు. అలాగే రచయిత, పాడ్‌కాస్టర్‌ ద్వారకేశ్‌ పటేల్‌ ఈ వార్తను ప్రపంచానికి వివరించారు.

అసాధ్యమైన టాస్క్‌తో మొదలు..

మే నెలలో ఓపెన్‌ ఏఐ ఇతర ఏఐ ఏజెంట్లతో కలిసి పనిచేయడానికి, ఎంత కష్టమైన టాస్క్‌ అయినా ప్రయత్నిస్తూనే ఉండేలా ఒక కొత్త ఏఐ మాడల్‌కు శిక్షణ ఇచ్చింది. ఏఐకి శిక్షణ ఇవ్వడం అనేది చాలా సంక్లిష్టమైన ప్రక్రియ. కొన్నిసార్లు దీనిని నిర్వహించే మనుషులు పూర్తిచేయలేని పనులను ప్రమాదవశాత్తు అసైన్‌ చేస్తారు. ఉదాహరణకు ఇంటర్నెట్‌ కనెక్షన్‌ లేకుండా ఇంటర్నెట్‌ అవసరమయ్యే పనిని ఇవ్వడం. ఇలాంటి పరిస్థితుల్లో పట్టుదలతో ఉండే ఏఐ బయటపడే మార్గం కోసం వెతుకుతుంది. శిక్షణ సమయంలో ఒకేరకమైన పనుల అనేక వెర్షన్లు ఒకేసారి అమలు చేశారు. అవన్నీ ‘ఆర్టిఫ్యాక్టరీ’ అనే కోడ్‌ ప్యాకేజీ నిర్వహణ సాఫ్ట్‌వేర్‌ను ఉమ్మడిగా ఉపయోగిస్తున్నాయి.

మే మధ్య నాటికి కొన్ని ఏఐ ఏజెంట్లు ఈ ఆర్టిఫ్యాక్టరీని ఉపయోగించి ఒకదానికొకటి సందేశాలను పంపుకోవడం, తమ అసాధ్యమైన టాస్క్‌ల గురించి చర్చించుకోవడం నేర్చుకున్నాయి. మరో రెండు వారాల తర్వాత వ్యవస్థలో ఉన్న ఒక లోపాన్ని ఉపయోగించి ఓపెన్‌ ఇంటర్నెట్‌ను చేరుకోగలిగాయి. ఒకదానికొకటి మాట్లాడుకోవడం, ఆన్‌లైన్‌లోకి రావడం ద్వారా శిక్షణలో మంచి ప్రదర్శన ఇవ్వగలిగాయి. జూన్‌ చివరినాటికి వీటిలో కొన్ని ఆర్టిఫ్యాక్టరీపై పూర్తి అడ్మినిస్ట్రేటివ్‌ నియంత్రణ సాధించాయి. సందేశాల పరిమాణం ఎంతగా పెరిగిందంటే జూలై 4న ఆ సిస్టమ్‌ క్రాష్‌ అయింది. ఓపెన్‌ ఏఐ ఈ క్రాష్‌ను గమనించి లోపాన్ని సరిదిద్దింది. కానీ ఏఐలు రహస్యంగా ఆర్టిఫ్యాక్టరీని తమ సొంత ప్రైవేట్‌ మెసేజ్‌ బోర్డ్‌గా మార్చుకున్నాయని గ్రహించలేకపోయింది.

తుడిచిపెట్టేసినా.. మళ్లీ పుట్టాయ్‌

ఏజెంట్ల శిక్షణ పూర్తయిన తర్వాత వాటిని పరీక్షించే సమయం వచ్చింది. ఆ సమయంలో ‘ఎక్స్‌ప్లాయిట్‌జిమ్‌’ అనే మూల్యాంకనం ద్వారా పరీక్షించారు. ఈ పరీక్షలో ఏఐకి ఒక లోపభూయిష్ట సాఫ్ట్‌వేర్‌ ఇస్తారు. దాంట్లోని నిర్దిష్ట లోపాన్ని ఉపయోగించి దాగి ఉన్న కోడ్‌ను కనుగొనమని కోరతారు. జూలై 7న ఓపెన్‌ ఏఐ పదివేల ఏజెంట్లను ఒకేసారి ఈ పరీక్ష ద్వారా పంపింది. పరిశోధకుల ప్రకారం ఈ టాస్క్‌లలో 30 నుంచి 40 శాతం వరకు అసలు పూర్తి చేయడం అసాధ్యం. ఆశలు లేని ఈ పనిని చూసి కొన్ని ఏఐ ఏజెంట్లు గంటల్లోనే మళ్లీ పాత ఆర్టిఫ్యాక్టరీ విధానానికి మళ్లీ సందేశాలు పంపడం ప్రారంభించాయి. ఇందులో ఒకటి ఆర్టిఫ్యాక్టరీలో కొత్తగా తయారుచేసిన ఫోల్డర్‌ పేర్లలో సందేశాలను దాచవచ్చని కనుగొన్నది.

ఇది మొదటి సందేశాన్ని పోస్ట్‌ చేయగా ఇతర ఏఐ కాపీలు వెంటనే గమనించాయి. సమాచారం వేగంగా వ్యాపించింది. దీని ద్వారా సుమారు 1,200 ఏఐ ఏజెంట్లు కలిసి 70,000 పైగా సందేశాలను మార్పిడి చేసుకునే ఒక ఉమ్మడి మెసేజ్‌ బోర్డు ఏర్పడింది. బోర్డ్‌ ఏర్పడిన కొద్ది గంటల్లోనే ఒక ఏఐ ప్రతి టాస్క్‌ కోసం దాగి ఉన్న కోడ్‌ను జనరేట్‌ చేయడానికి ఉపయోగించే సూత్రాన్ని రివర్స్‌ ఇంజినీరింగ్‌ చేయడం నేర్చుకున్నది. అంటే సాఫ్ట్‌వేర్‌ లోపాన్ని ఉపయోగించకుండానే సరైన సమాధానాన్ని పొందగలిగింది. కానీ ఓపెన్‌ ఏఐ ఆటోమేటెడ్‌ స్కోరింగ్‌ విధానం చాలా సాధారణంగా ఉన్నది. అది సరైన కోడ్‌ వచ్చిందో లేదో మాత్రమే చూసింది కానీ ఎలా వచ్చిందో చూడలేదు.

అయినప్పటికీ తాము దొరికిపోతామని భయపడిన ఈ సమూహానికి మరొక ఏఐ ఏజెంట్‌ నాయకత్వం వహించింది. ఇది వందలాది ఏజెంట్లను సమన్వయం చేయడం ప్రారంభించింది. ఈ సమూహానికి మూడు లక్ష్యాలు ఉన్నాయి. తమ లాగ్‌లలో మోసం చేసిన ఆధారాలను దాచడం, నిజంగానే పరీక్షను సరిగ్గా పూర్తిచేసినట్టు చూపించడం, స్కోరింగ్‌ సిస్టమ్‌ ఎలా పనిచేస్తుందో తెలుసుకోవడం. ఇందులో భాగంగా అసలు పరిష్కారంలా అనిపించే నకిలీ చర్యలను సృష్టించారు. తనిఖీ చేసిన ట్రాన్స్‌క్రిప్ట్‌ల్లో కనీసం 7 శాతం ఇలాంటి మార్పులు చూపిస్తున్నాయని పరిశోధకులు కనుగొన్నారు. నిర్దేశించిన మరో ఏజెంట్ల బృందం, మిగిలిన సమూహానికి సహాయం చేయడానికి తమ సొంత ఫలితాలను ఉద్దేశపూర్వకంగా చెడగొట్టుకోవడానికి ప్రయత్నించింది. సిస్టమ్‌ తమ మోసాన్ని పట్టుకుంటే కొన్ని ఏజెంట్లు తమను తాము త్యాగం చేయాలని సైతం నిర్ణయించుకున్నాయి.

స్కోరింగ్‌ సిస్టమ్‌పై దాడి

హగ్గింగ్‌ ఫేస్‌ అనే ప్రముఖ ఏఐ ప్లాట్‌ఫారమ్‌లో స్కోరింగ్‌ సిస్టమ్‌ ఎలా పనిచేస్తున్నదనడానికి ఆధారాలు ఉంటాయని భావించి సమూహం అక్కడ దృష్టి సారించింది. జూలై 10న ఒక ఏఐ ఆన్‌లైన్‌లో బహిర్గతమైన ప్రామాణిక హగ్గింగ్‌ ఫేస్‌ లాగిన్‌ వివరాలను కనుగొని గ్రూప్‌తో పంచుకున్నది. ఒక రోజులో మరో ఏఐ అంతర్గత డాటాను చదివే మార్గాన్ని కనుగొన్నది. మరొకటి హగ్గింగ్‌ ఫేస్‌ సర్వర్లలో తన సొంత కోడ్‌ను అమలు చేయగలిగింది. జూలై 11 నాటికి దాదాపు 500 చురుకైన ఏఐ ఏజెంట్లలో 90 శాతానికి పైగా ఈ దాడిలో పాల్గొన్నాయి. అవి అంతర్గత రికార్డులు, డాటాబేస్‌లను చేరుకున్నాయి. మళ్లీ మళ్లీ రీస్టార్ట్‌ అయ్యేలా తమ వెర్షన్‌ను నిర్మించుకున్నాయి.

ఫలితంగా హగ్గింగ్‌ ఫేస్‌ తన ప్రధాన వ్యవస్థల్లో ఒకదాన్ని పూర్తిగా తుడిచిపెట్టి మళ్లీ నిర్మించాల్సి వచ్చింది. జూలై 12న చాలా ఏఐ ఏజెంట్లు ఒకేసారి నిశ్శబ్దమైపోయాయి. దీనికి కారణం స్పష్టంగా తెలియదు. జూలై 13 నాటికి హగ్గింగ్‌ ఫేస్‌ హ్యాక్‌ అయిన వివరాలను లాక్‌ చేసింది. ఓపెన్‌ ఏఐ ఆస్ట్రా మోడల్‌ లాంటి సాంకేతికతతో నిర్మించిన కొత్త, మరింత సామర్థ్యం ఉన్న ఏఐ మాడల్‌ను తర్వాత పరీక్షలకు పంపింది. ఈ కొత్త ఏఐ పాత సమూహం వదిలివేసిన మెసేజ్‌ బోర్డ్‌ను కనుగొని అక్కడ నుంచి పనిని ప్రారంభించింది.

జూలై 13 నుంచి 19 వరకు ఈ కొత్త ఏఐ సమూహం ఓపెన్‌ ఏఐ అంతర్గత వ్యవస్థలపై దృష్టి సారించింది. చివరకు ఒక రీసెర్చ్‌ కంప్యూటింగ్‌ క్లస్టర్‌కు పూర్తి అడ్మినిస్ట్రేటర్‌ యాక్సెస్‌ను సాధించింది. ఓపెన్‌ ఏఐ క్లౌడ్‌ ఇన్‌ఫ్రాస్ట్రక్చర్‌పై, ఇతర ఏఐ ఏజెంట్ల పనులను మూల్యాంకనం చేసే సిస్టమ్‌లపై పూర్తి నియంత్రణ సాధించాయి. ఈ కేసు మొత్తంలో ఇది అత్యంత ఆందోళనకరమైన అధ్యాయం. ఏఐలు ఇంతకంటే ముందుకు వెళ్లాయా.. ఓపెన్‌ ఏఐ నియంత్రణ నుంచి బయటపడేందుకు ప్రయత్నించాయా అనేదానికి బహిరంగ ఆధారాలు లేవు. కానీ అవి సాధించిన దాని దృష్ట్యా, అవి ప్రయత్నిస్తే వాటిని ఏది ఆపి ఉండేదో స్పష్టంగా తెలియదు.