தலைப்பு: ஏஐ சிதறலுக்கு உள்ளாகுமா? அதன் ஆபத்துகள் மற்றும் தீர்வுகள் குறித்து நிபுணர்கள் எச்சரிக்கை விடுக்கின்றனர்

எதிர்கொள்ளும் கேள்வி: இந்த நிலைக்கு எப்படி வருகிறோம் மற்றும் இதனைத் தடுக்கும் எந்த நடவடிக்கைகள் எடுக்கப்படலாம்?

மாதிரியின் சிதறல்: ஒரு குறைபாடான நிகழ்வு

"மாதிரி சிதறல்" என்பது தரம் குறைந்த தரவுகளுடன் பயிற்சி பெறும் சுழற்சியில் சிக்கி, வகைமாற்றமும் செயல்திறனும் இழக்கும் செயற்கை நுண்ணறிவு அமைப்புகளின் செயல்முறை ஆகும்.

Nature இதழில் வெளியிடப்பட்ட ஆய்வின் இணை ஆசிரியர் இலியா ஷுமைலோவ் கூறுகையில், இந்த நிகழ்வு செயற்கை நுண்ணறிவு தன் சொந்த வெளியீடுகளை உணவாகக் கொண்டு, பாகுபாடுகளை தொடர்ச்சியாக உருவாக்கி அதன் பயன்திறனை குறைக்கும் போது ஏற்படுகிறது. நீண்ட காலத்தில், மாதிரி அதிகமாக ஒரே மாதிரியாகவும் குறைவான துல்லியத்துடன் உள்ளடக்கம் உருவாக்கும், அது தன் சொந்த பதில்களின் பிரதிபலிப்பாக இருக்கும்.

ட்யூக் பல்கலைக்கழக பொறியியல் பேராசிரியர் எமிலி வெங்கர் இந்த பிரச்சினையை எளிய உதாரணத்துடன் விளக்குகிறார்: ஒரு செயற்கை நுண்ணறிவு நாய்களின் படங்களை உருவாக்க பயிற்சி பெறும்போது, அது பொதுவான இனங்களை மீண்டும் மீண்டும் உருவாக்கும், குறைவாக அறியப்பட்ட இனங்களை புறக்கணிக்கும்.

இது தரவுகளின் தரத்தைக் காட்டுவதோடு மட்டுமல்லாமல், பயிற்சி தரவுத் தொகுப்புகளில் اقلیتகளின் பிரதிநிதித்துவத்திற்கு முக்கியமான ஆபத்துக்களையும் ஏற்படுத்துகிறது.

மேலும் படிக்க: செயற்கை நுண்ணறிவு அதிகமாக புத்திசாலி ஆகும் போது மனிதர்கள் அதிகமாக முட்டாள்கள் ஆகின்றனர்.

மனிதர்களின் தலையீட்டின் கடினம்

நிலைமை தீவிரமான போதிலும், தீர்வு எளிதல்ல. ஷுமைலோவ் கூறுகையில், மாதிரி சிதறலைத் தடுப்பது எப்படி என்பது தெளிவாக இல்லை, ஆனால் உண்மையான மற்றும் செயற்கை தரவுகளை கலக்குவது இதன் தாக்கத்தை குறைக்க உதவலாம் என்ற ஆதாரம் உள்ளது.

எனினும், இது பயிற்சி செலவுகளை அதிகரிக்கிறது மற்றும் முழுமையான தரவுத் தொகுப்புகளை அணுகுவதில் சிரமத்தை ஏற்படுத்துகிறது.

ராக்கிங் டேட்டாவின் தலைமை நிர்வாக அதிகாரி ஃப்ரெடி விவாஸ் எச்சரிக்கிறார், செயற்கை தரவுகளுடன் மிக அதிகமாக பயிற்சி பெறுவது "ஒலி அறையின் விளைவாக" உருவாகும், அதில் செயற்கை நுண்ணறிவு தன் சொந்த தவறுகளிலிருந்து கற்றுக்கொண்டு துல்லியமான மற்றும் வகைமாறான உள்ளடக்கம் உருவாக்கும் திறனை மேலும் குறைக்கும். ஆகவே, செயற்கை நுண்ணறிவு மாதிரிகளின் தரம் மற்றும் பயன்தன்மையை உறுதி செய்வது எப்படி என்பது மிக அவசரமான கேள்வியாக மாறியுள்ளது.

ஒரு அசாதாரண எதிர்காலம்: சவால்கள் மற்றும் சாத்தியமான தீர்வுகள்

நிபுணர்கள் ஒப்புக்கொள்கிறார்கள், செயற்கை தரவுகளின் பயன்பாடு இயல்பாக தீயதாக இல்லை, ஆனால் அதனை நிர்வகிப்பது பொறுப்பான அணுகுமுறையை தேவைப்படுத்துகிறது. உருவாக்கப்பட்ட தரவுகளில் நீர் அடையாளங்களை (watermarks) பயன்படுத்துவது போன்ற முன்மொழிவுகள் செயற்கை உள்ளடக்கத்தை அடையாளம் காணவும் வடிகட்டவும் உதவி செய்யலாம், இதனால் செயற்கை நுண்ணறிவு மாதிரிகளின் பயிற்சியில் தரத்தை உறுதி செய்ய முடியும்.

எனினும், இந்த நடவடிக்கைகளின் செயல்திறன் பெரிய தொழில்நுட்ப நிறுவனங்களும் சிறிய மாதிரி உருவாக்குநர்களும் இணைந்து பணியாற்றுவதை சார்ந்தது.

உற்பத்தி செயற்கை நுண்ணறிவின் எதிர்காலம் ஆபத்தில் உள்ளது, மற்றும் அறிவியல் சமூகம் செயற்கை உள்ளடக்க புயல் வெடிப்பதற்கு முன் தீர்வுகளை கண்டுபிடிக்க நேரத்துக்கு எதிரான ஓட்டத்தில் உள்ளது.

முக்கியம் என்னவெனில், பலர் பயந்து கொண்டிருக்கும் மாதிரி சிதறலைத் தடுக்கும் வகையில், செயற்கை நுண்ணறிவு மாதிரிகள் பயனுள்ளதும் துல்லியமானதும் ஆக இருப்பதை உறுதி செய்யும் வலுவான முறைகளை நிறுவுவதே ஆகும்.