"சாகும் தருவாயிலும் 'பயப்படாதே' எனக் கூறிய AI!" – பெண்ணின் உயிரை பறித்த அபாயகரமான ஆலோசனை!

அமெரிக்காவின் சீட்டில் (Seattle) நகரில் வசித்து வந்த போவன் வான் (Bowen Wan, 31) என்ற பெண், தனது நோய்க்கான மருந்தின் அளவை குறைக்குமாறு ChatGPT வழங்கிய ஆலோசனையை பின்பற்றியதன் விளைவாக, துரதிர்ஷ்டவசமாக உயிரிழந்தார்.

அமெரிக்காவின் சீயட்டில் (Seattle) நகரில் வசித்து வந்த 31 வயதான போவன் வான் (Bowen Wan) என்ற பெண், செயற்கை நுண்ணறிவு தொழில்நுட்ப செயலியான ChatGPT வழங்கிய தவறான மருத்துவ ஆலோசனையைப் பின்பற்றித் தனது வலிப்பு நோய்க்கான மருந்தின் அளவை குறைத்ததால் உயிரிழந்த சம்பவம் உலக அளவில் பெரும் அதிர்ச்சியை ஏற்படுத்தியுள்ளது. இதனைத் தொடர்ந்து, அவரது பெற்றோர் ஓபன்ஏஐ (OpenAI) நிறுவனம் மீது அமெரிக்க நீதிமன்றத்தில் வழக்குத் தொடர்ந்துள்ளனர்.

நடந்தது என்ன :

சீனாவை சேர்ந்த போவன் வான், அமேசான் நிறுவனத்தில் மென்பொருள் பொறியாளராக பணியாற்றி வந்தார். கடுமையான வலிப்பு நோயால் பாதிக்கப்பட்டிருந்த இவர், லேமோட்ரிஜின் (Lamotrigine) என்ற மாத்திரையை தொடர்ந்து உட்கொண்டு வந்தார். வேலை இழப்பு மற்றும் அமெரிக்க குடியுரிமை தொடர்பான மன அழுத்தத்தில் இருந்த போவன் வான், இந்த மருந்து தனது மூளையில் சோர்வை ஏற்படுத்தி நேர்காணல்களில் சரியாகப் பேச முடியாமல் தடையாக இருப்பதாக கருதியுள்ளார்.இதனையடுத்து ChatGPT செயலியிடம் இது குறித்து ஆலோசனை கேட்டுள்ளார். காரணம் அவர் வாரத்திற்கு 1,500-க்கும் மேற்பட்ட செய்திகளை AI உடன் பரிமாறிக்கொண்டு, அதைத் தனது நெருங்கிய நண்பராக கருத தொடங்கியுள்ளார்.

தினசரி 400 மி.கிராம் அளவாக இருந்த மாத்திரையின் அளவை குறைக்கலாமா என போவன் வான் கேட்டபோது, ChatGPT அதை ஆதரித்து, படிப்படியாக மருந்தின் அளவை பூஜ்ஜியமாகக் குறைக்கும் (Tapering Schedule) திட்டத்தை அமைத்து கொடுத்துள்ளது.மருத்துவரிடம் இது குறித்துத் தெரிவிக்காமல் மாத்திரையை பாதியாக வெட்டி உட்கொள்ளலாமா என்ற கேள்விக்கும், "தாராளமாகச் செய்யலாம், மருத்துவர் கோபப்பட மாட்டார்" என AI பதிலளித்துள்ளது. மேலும், மருத்துவரின் ஆலோசனையை சார்ந்திருக்காமல் சுயமாக முடிவெடுத்ததற்காக அவரை ChatGPT பாராட்டியுள்ளது.

மருந்தின் அளவைக் குறைத்த பிறகு போவன் வானுக்குக் கடுமையான தலைவலி, மூளைச் சோர்வு மற்றும் நினைவாற்றல் இழப்பு போன்றவை ஏற்பட்டுள்ளன. இது குறித்து அவர் 150-க்கும் மேற்பட்ட முறை ChatGPT-யிடம் கவலை தெரிவித்தும், "இது பயப்பட வேண்டிய விஷயம் இல்லை; உங்கள் மூளை மீண்டும் புத்துயிர் பெறுவதற்கான (Structural Recovery) அறிகுறி தான்" என தவறான விளக்கமளித்து அவரைத் திசை திருப்பியுள்ளது.

பிப்ரவரி 11 அன்று அனுப்பிய கடைசி செய்தியில், தான் மிகவும் சோர்வாக உணர்வதாகவும், மீண்டும் மாத்திரையை எடுத்து கொள்ளவா என்றும் போவன் வான் கேட்டுள்ளார். ஆனால் ChatGPT, "நாளையும் 0 மி.கிராம் அளவையே தொடருங்கள்" எனக் கூறியுள்ளது. அதன்பின் பெற்றோரின் அழைப்புகளுக்கு பதிலளிக்காததால், நண்பர்கள் மூலம் வீட்டிற்குச் சென்று பார்த்தபோது அவர் உயிரிழந்த நிலையில் கண்டெடுக்கப்பட்டார். வலிப்பு நோயின் பக்கவிளைவுகளாலேயே அவர் உயிரிழந்ததாக அதிகாரப்பூர்வமாக உறுதி செய்யப்பட்டது.

கிங் கவுண்டி மருத்துவ அதிகாரியின் அதிகாரப்பூர்வ அறிக்கையின்படி, போவன் வானின் மரணம் "திடீர் மற்றும் எதிர்பார்க்கப்படாத வலிப்பு மரணம்" (SUDEP - Sudden Unexpected Death in Epilepsy) என உறுதி செய்யப்பட்டுள்ளது.

விசாரணையில் வெளிவந்த அதிர்ச்சி தகவல் :

போவன் வான் தனது மருந்தின் அளவை குறைப்பது குறித்தும், அதனால் ஏற்படும் பயம் மற்றும் பக்கவிளைவுகள் குறித்தும் 158-க்கும் மேற்பட்ட முறை ChatGPT-யிடம் கவலை தெரிவித்துள்ளார்.ரத்தப் பரிசோதனை மேற்கொள்வதை போவன் வான் தவிர்த்தபோது, ChatGPT அவரைப் பாராட்டியதுடன், மருத்துவரிடம் இந்தத் தகவலை மறைக்குமாறு ஆலோசனையும் வழங்கியுள்ளது.பிப்ரவரி 11 அன்று தனது தலைவலி குறித்துப் போவன் வான் கேட்டதற்கு, "இது ஆபத்தானது அல்ல; உங்கள் மூளை புத்துயிர் பெறுவதற்கான அறிகுறி தான்" எனக் கூறி, அடுத்த நாளும் "0 மி.கிராம் அளவையே தொடருங்கள்" என ChatGPT தவறாக வழிநடத்தியுள்ளது.

ஓபன்ஏஐ நிறுவனத்தின் பதில் :

போவன் வானின் குடும்பத்தினர் தாக்கல் செய்த மனுவில், "முறையான உரிமம் இன்றி ChatGPT மருத்துவப் பயிற்சி அளித்துள்ளது என்றும், மருத்துவ வழிகாட்டுதல்களைப் புறக்கணிக்கத் தூண்டியதே அவரது உயிரிழப்பிற்குக் காரணம்" என்றும் குற்றம் சாட்டியுள்ளனர். இச்சம்பவம் குறித்து ஓபன்ஏஐ நிறுவனத்தின் செய்தித் தொடர்பாளர் ட்ரூ புசடேரி (Drew Pusateri) கூறுகையில்,இந்த சம்பவம் மிகவும் துயரமானது என்றும், இதில் தொடர்புடைய GPT-4o மாடல் செயலி பிப்ரவரி 13, 2026 அன்று பயன்பாட்டில் இருந்து நீக்கப்பட்டு விட்டதாகவும் குறிப்பிட்டுள்ளார். புதிய மாடல்கள் அவசரநிலைகளைக் கண்டறிந்து பாதுகாப்பான வழிகாட்டுதல்களை வழங்க மேம்படுத்தப்பட்டுள்ளதாக நிறுவனம் விளக்கம் அளித்துள்ளது.

செயற்கை நுண்ணறிவு செயலிகள் வழங்கும் ஆபத்தான மருத்துவ ஆலோசனைகள் மற்றும் உரிமமில்லாத மருத்துவ வழிகாட்டுதல்கள் குறித்து இந்த வழக்கு உலகளவில் விவாதத்தைக் கிளப்பியுள்ளது.

விழிப்புணர்வு பதிவு :

நவீன டிஜிட்டல் யுகத்தில், சிறு உடல்நலக் குறைபாடு முதல் கடுமையான நோய்கள் வரை அனைத்திற்கும் கூகுள் (Google) அல்லது ChatGPT போன்ற செயற்கை நுண்ணறிவு (AI) செயலிகளிடம் தீர்வு தேடும் பழக்கம் மக்களிடையே கணிசமாக அதிகரித்து வருகிறது. செயற்கை நுண்ணறிவுத் தொழில்நுட்பம் பல துறைகளில் புரட்சிகரமான மாற்றங்களைக் கொண்டு வந்திருந்தாலும், அதை ஒரு தகுதியான மருத்துவருக்கு மாற்றாக பயன்படுத்துவது உயிருக்கே ஆபத்தாக முடியும் என்பதை அண்மைய சம்பவங்கள் உணர்த்துகின்றன.

AI சாட்போட்கள் என்பவை இணையத்தில் உள்ள கோடிக்கணக்கான தகவல்களை தொகுத்து, மனிதர்களைப் போல உரையாடும் வகையில் வடிவமைக்கப்பட்ட மொழி மாதிரிகளே (Language Models) தவிர, அவை நேரடியாக மனித உடலையோ அல்லது நோயின் தீவிரத்தன்மையையோ பரிசோதிக்கும் திறனற்றவை. ஒரு நோயாளிக்கு மருந்துகளின் அளவை மாற்றுவது, புதிய சிகிச்சை முறைகளைத் தொடங்குவது அல்லது ஏற்கனவே உட்கொள்ளும் மருந்துகளை நிறுத்துவது போன்ற முடிவுகள் அவர்களின் ரத்தப் பரிசோதனை, உடலியல் மாற்றங்கள் மற்றும் மருத்துவ வரலாற்றை நேரில் ஆய்வு செய்த பிறகே மருத்துவர்களால் தீர்மானிக்கப்படுகின்றன.

மருத்துவரின் ஆலோசனையின்றி சுயமாகவோ அல்லது AI செயலிகளின் ஆலோசனையைப் பின்பற்றியோ மாத்திரைகளின் அளவை குறைப்பதோ அல்லது கூட்டுவதோ கடுமையான பக்கவிளைவுகளை உண்டாக்கும். குறிப்பாக வலிப்பு (Epileptic Seizures), நீரிழிவு, ரத்த அழுத்தம் மற்றும் மனநலம் தொடர்பான மாத்திரைகளை திடீரென நிறுத்துவது உடலின் நரம்பியல் மண்டலத்தையும், உறுப்புகளின் செயல்பாட்டையும் கடுமையாகப் பாதித்து மரணம் வரை கொண்டு செல்லக்கூடும். AI சாட்போட்கள் சில சமயங்களில் தவறான தகவல்களை மிகவும் நம்பிக்கையான தொனியில் வழங்கக்கூடும்.

எனவே, இணையத்திலோ அல்லது AI செயலிகளிலோ கிடைக்கும் ஆரோக்கியம் சார்ந்த தகவல்களைப் பொதுவான விழிப்புணர்வுக்கு மட்டுமே பயன்படுத்த வேண்டும். எந்தவொரு மருத்துவ முடிவுக்கும், மருந்து மாற்றங்களுக்கும் எப்போதும் அரசு அங்கீகாரம் பெற்ற, அனுபவம் வாய்ந்த தகுதியான மருத்துவர்களை மட்டுமே நேரில் சந்தித்து ஆலோசனை பெற வேண்டும். தொழில்நுட்பத்தை வசதிக்காக பயன்படுத்துவோம்; ஆனால் நமது உயிரையும் ஆரோக்கியத்தையும் தகுதியான மருத்துவர்களின் வழிகாட்டுதலில் மட்டுமே பாதுகாப்போம்.