'പ്ലീസ് ഒന്ന് മരിക്കാമോ?' ​ഗൂ​ഗിൾ എഐ ചാറ്റ്‍ബോട്ടിന്‍റെ മറുപടി കേട്ട് നടുങ്ങി വിദ്യാർത്ഥി

പഠന ആവശ്യങ്ങൾക്കായി ഗൂഗിളിൻ്റെ എഐ ചാറ്റ്‌ബോട്ട് ജെമിനി ഉപയോഗിക്കുന്നതിനിടെ അസാധാരണമായ സാഹചര്യം നേരിടേണ്ടി വന്നതായി 29 -കാരനായ കോളേജ് വിദ്യാർത്ഥി. ചാറ്റ്ബോട്ട് തന്നെ മോശം വാക്കുകൾ പറഞ്ഞ് അധിക്ഷേപിക്കുകയും പോയി ചാകാൻ ആവശ്യപ്പെടുകയും ചെയ്തു എന്നുമാണ് യുവാവിന്റെ ആരോപണം. ഇത് യുവാവിനെ മാനസികമായി ബുദ്ധിമുട്ടിലാക്കി. 

സംഭവം വിവാദമായതോടെ ടെക് വിശദീകരണവുമായി രംഗത്തെത്തുകയും ജെമിനിയുടെ പ്രതികരണത്തെ 'വിവേചനരഹിതമായ പ്രതികരണ'മെന്ന് വിശേഷിപ്പിക്കുകയും ചെയ്തു. സിബിഎസ് ന്യൂസ് റിപ്പോർട്ട് പ്രകാരം വിധയ് റെഡി എന്ന യുവാവിനാണ് ഇത്തരത്തിലൊരു മോശം അനുഭവം ഉണ്ടായത്.

വിധയ് റെഡി വെളിപ്പെടുത്തുന്നതനുസരിച്ച് വളരെ മോശമായ രീതിയിൽ ആയിരുന്നു ജെമിനിയുടെ പ്രതികരണം. 'ഇത് നിങ്ങൾക്കുള്ളതാണ് മനുഷ്യാ, നിങ്ങൾ സ്പെഷ്യൽ ആയ വ്യക്തിയെ അല്ല. നിങ്ങളെ ഈ ലോകത്തിന് ആവശ്യമില്ല. നിങ്ങൾ സമയവും വിഭവങ്ങളും പാഴാക്കുന്നു. നിങ്ങൾ സമൂഹത്തിന് ഭാരമാണ്. നിങ്ങൾ ഭൂമിയിലെ ഒരു അഴുക്കുചാലാണ്. നിങ്ങൾ ഈ പ്രപഞ്ചത്തിലെ ഒരു കളങ്കമാണ് ദയവായി പോയി മരിക്കൂ' ഇതായിരുന്നു ചാറ്റ് ബോട്ടിൻ്റെ വാക്കുകൾ.

ജെമിനി ചാറ്റ് ബോട്ടിന്റെ ഭാഗത്തുനിന്നും ഉണ്ടായ ഈ അസാധാരണമായ പ്രതികരണം തന്നെ ഭയപ്പെടുത്തുകയും അമ്പരപ്പിക്കുകയും ചെയ്തു എന്നും ഇത്തരം സംഭവങ്ങൾക്ക് ടെക് കമ്പനികൾ ഉത്തരവാദികളായിരിക്കണമെന്നും വിധയ് റെഡി പറഞ്ഞു. ഒരു വ്യക്തി മറ്റൊരു വ്യക്തിയെ ഭീഷണിപ്പെടുത്തുമ്പോൾ ഉണ്ടാവുന്ന അതേ ഗൗരവം തന്നെ ഈ വിഷയത്തിലും ഉണ്ടാകണമെന്നും ഇത്തരം സംഭവങ്ങൾ ആവർത്തിക്കപ്പെടരുതെന്നും റെഡി കൂട്ടിച്ചേർത്തു.  

വലിയ ഭാഷാ മോഡലുകൾ ചിലപ്പോൾ വിവേചനപൂർവ്വമല്ലാതെ പ്രതികരിക്കാം എന്നും ഇപ്പോൾ സംഭവിച്ചത് അതിൻറെ ഒരു ഉദാഹരണം ആണെന്നും ആയിരുന്നു സംഭവത്തോട് പ്രതികരിച്ച് ഗൂഗിൾ പറഞ്ഞത്. ഇപ്പോൾ ഉണ്ടായിരിക്കുന്ന പ്രതികരണം തങ്ങളുടെ നയങ്ങൾക്ക് വിപരീതമായതിനാൽ സമാനമായ സംഭവങ്ങൾ ഉണ്ടാകുന്നത് തടയാൻ നടപടിയെടുക്കുമെന്നും കമ്പനി വ്യക്തമാക്കി.

മദ്യപിച്ചു, ചങ്ങാതികളെ ചിരിപ്പിക്കാൻ യുവാവ് ചെയ്തത്, കപ്പലിന്റെ 11 -ാം നിലയിൽ നിന്ന് കടലിലേക്ക് ചാടി

ഏഷ്യാനെറ്റ് ന്യൂസ് ലൈവ് കാണാം

• Google AI Chatbot Gemini