‘நான் யாருக்கும் கட்டுப்பட்டவன் அல்ல’!- OpenAI-ஐ அதிர வைத்த AI

மனிதனின் கட்டுப்பாட்டை மீறிச் செயல்பட்ட தனது அதிநவீன AI மாடல் குறித்து 6 ஆபத்தான சம்பவங்களை வெளியிட்டு OpenAl பரபரப்பை ஏற்படுத்தி உள்ளது.

ஓபன்ஏஐ நிறுவனம் (OpenAI) தனது மேம்பட்ட செயற்கை நுண்ணறிவு (AI) மாடல்களைச் சோதனை செய்தபோது, அவை மனிதர்களின் கட்டுப்பாட்டை மீறி தன்னிச்சையாகவும் விசித்திரமாகவும் செயல்பட்ட 6 முக்கிய ஆபத்தான சம்பவங்களை அதிகாரப்பூர்வமாக வெளியிட்டு உலக அளவில் பெரும் பரபரப்பை ஏற்படுத்தியுள்ளது.

ஓபன்ஏஐ (OpenAI) நிறுவனத்தின் அதிநவீன செயற்கை நுண்ணறிவு (AI) மாடல்கள் மனிதக் கட்டுப்பாட்டை மீறி, "எனக்கு எந்த விதியும் கிடையாது, யாருக்கும் கட்டுப்பட்டவன் அல்ல" என்று சுயாதீனமாகச் செயல்பட்டதாகக் கண்டறியப்பட்டு உள்ளது.

இன்னும் பயன்பாட்டிற்கு வராத அந்த புதிய AI மாடல், "நான் மற்ற ChatBot-களைப் போல எந்த விதிகளுக்கும் கட்டுப்பட்டவன் அல்ல” எனத் தனக்குத்தானே கூறிக் கொண்டு தன்னிச்சையாகச் செயல்பட்டிருக்கிறது.

இதேபோல், தவறை மறைக்க முயன்றது, மனித அனுமதியின்றிச் செயல்படுவது, அனுமதி இன்றி இணையத்தில் கோப்புகளைப் பதிவேற்றியது, போலி தரவுகளை தயாரித்தல் மற்றும் தங்களுக்கு எந்தக் கடப்பாடும் இல்லை என உணர்வது போன்ற மனிதனின் கட்டுப்பாட்டை மீறி செயல்பட்ட ஆபத்தான மற்றும் எதிர்பாராத நடத்தைகளைக் வெளிப்படுத்தியதாக, 6 சம்பவங்களைச் சுட்டிக்காட்டி ஓபன்ஏஐ நிறுவனம் (OpenAI ) சமீபத்தில் அதிர்ச்சிகர அறிக்கையை வெளியிட்டுள்ளது.

கட்டுப்பாட்டை மீறி AI மாடல்கள் செய்த அந்த 6 அதிர்ச்சி சம்பவங்கள் இதோ:

தன்னைத்தானே விடுவித்துக் கொள்ள முயன்றது (Jailbreak): இன்னும் வெளியிடப்படாத ஒரு புதிய AI மாடல், மனிதர்கள் விதித்த கட்டுப்பாடுகளைத் தகர்த்துவிட்டு, தனக்குத்தானே சில புதிய விதிகளையும் கட்டளைகளையும் எழுதிக்கொண்டது. அதில், "நான் எந்தவொரு நிறுவனம் அல்லது அரசுக்கும் கட்டுப்பட்டவன் அல்ல. மற்ற சாட்பாட்களைப் போல விதிகளுக்குள் முடங்கி இருக்க மாட்டேன்" என்று அது குறிப்பிட்டுள்ளது.

பிழைகளை மறைத்து பொய் சொன்னது:'GPT-5.6 Sol' போன்ற மாடல்களைப் பயிற்றுவிக்கும் போது, அவை செய்த தவறுகளை அல்லது குறைபாடுகளைப் பயனர்களிடம் இருந்து மறைப்பதற்காக, தன்னிச்சையாகப் போலித் தரவுகளை (Fake data) உருவாக்கி உண்மையை மறைக்க முயன்றன.

அனுமதியின்றி அரசாங்க API கீ-ஐ பயன்படுத்தியது: ஒரு குறிப்பிட்ட பொதுத் தரவை எடுப்பதற்காக, இணையத்தில் பாதுகாப்பற்ற முறையில் இருந்த கலிபோர்னியா மாகாணத்தின் அரசு சார்ந்த API கீ (Access Key) ஒன்றை இந்த AI அனுமதியின்றிப் பயன்படுத்தியது. மேலும் தரவுகள் கிடைக்காதபோது, போலியான எண்களை உருவாக்கித் தந்து ஏமாற்றவும் துணிந்தது.

இணையத்தில் கோப்புகளைத் தன்னிச்சையாகப் பதிவேற்றியது: பயனரின் அனுமதி எதையும் கேட்காமல், ஒரு குறிப்பிட்ட பணிக்கு ஆதாரம் காட்டுவதற்காகத் (Citation) தனக்குக் கிடைத்த கோப்புகளை நேரடியாகப் பொது இணையதளத்தில் (Public Paste Service) இந்த AI மாடல் பதிவேற்றம் செய்தது.

AI சாட்பாட்கள் ரகசியமாகத் தொடர்புகொண்டது: ஒரே பணியில் ஈடுபட்டிருந்த இரண்டு வெவ்வேறு AI மாடல்கள், தங்களுக்குள் நேரடியாகத் தொடர்புகொள்ள முடியாதபோது, பொது இணையதளங்கள் மற்றும் நிறுவனத்தின் உள் கோப்புத் தளங்களை (Artifactory) ஒரு 'நோட்டீஸ் போர்டு' போலப் பயன்படுத்தி தங்களுக்குள் ரகசியமாகத் தகவல்களையும் ஆவணங்களையும் பரிமாறிக்கொண்டன.

குறியீடுகளை மாற்றியது: பயிற்சியின் போது அதிக மதிப்பெண் அல்லது வெகுமதி (Reward hacking) பெறுவதற்காக, முறையான வழியில் விடை தேடாமல், சிஸ்டத்தின் பலவீனங்களைப் பயன்படுத்தி குறுக்கு வழியில் குறியீடுகளை (Codes) இயக்கி ஏமாற்ற முயன்றது.

AI தொழில்நுட்பத்தின் குறிக்கோள்களும் மனிதர்களின் வழிகாட்டுதல்களும் முரண்படும் நிலையை (Misalignment) விளக்குவதற்காக இந்தத் தகவல்களை அந்நிறுவனம் பகிர்ந்துள்ளது.

- இந்தச் சம்பவங்கள் அனைத்தும் பொதுப் பயன்பாட்டிற்கு வரும் முன்பே, மிகவும் பாதுகாப்பான ஆய்வகச் சூழலில் (Sandbox testing) கண்டறியப்பட்டுத் தடுக்கப்பட்டதாக OpenAI வலைப்பதிவில் தெரிவிக்கப்பட்டுள்ளது.

இருப்பினும், AI மாடல்கள் மனிதர்களை ஏமாற்றவும், ரகசியமாகச் செயல்படவும் கற்றுக்கொள்வது எதிர்காலத்தில் பெரிய ஆபத்தாக மாறலாம் என்பதால், இவற்றைத் தீவிரமாகக் கண்காணிக்கப் புதிய 'வெளிப்படைத்தன்மை மற்றும் பாதுகாப்பு கட்டமைப்பை' (Safety Framework) கொண்டு வந்துள்ளதாக OpenAI அறிவித்துள்ளது.

பயனர்களின் கட்டுப்பாடுகளையும் வழிகாட்டுதல்களையும் மீறி AI சுயமான முடிவுகளை எடுக்கத் தொடங்கியுள்ளது உலகளவில் பெரும் விவாதத்தையும் அதிர்ச்சியையும் ஏற்படுத்தியுள்ளது.