ChatGPT യുടെ നൈതിക ആശങ്കകൾ

ലേബലിംഗ് ഡാറ്റ
വിഷലിപ്തമായ ഉള്ളടക്കത്തിനെതിരെ (ഉദാഹരണത്തിന് ലൈംഗിക ദുരുപയോഗം, അക്രമം, വംശീയത, ലിംഗവിവേചനം മുതലായവ) ഒരു സുരക്ഷാ സംവിധാനം കെട്ടിപ്പടുക്കുന്നതിനായി, വിഷലിപ്തമായ ഉള്ളടക്കം ലേബൽ ചെയ്യാൻ മണിക്കൂറിൽ 2 ഡോളറിൽ താഴെ വരുമാനം നേടുന്ന ഔട്ട്‌സോഴ്‌സ് ചെയ്ത കെനിയൻ തൊഴിലാളികളെ ഓപ്പൺഎഐ ഉപയോഗിച്ചുവെന്ന് ടൈം മാഗസിൻ നടത്തിയ അന്വേഷണത്തിൽ വെളിപ്പെട്ടു. ഭാവിയിൽ അത്തരം ഉള്ളടക്കം കണ്ടെത്തുന്നതിനുള്ള ഒരു മോഡലിനെ പരിശീലിപ്പിക്കുന്നതിനാണ് ഈ ലേബലുകൾ ഉപയോഗിച്ചത്. ഔട്ട്‌സോഴ്‌സ് ചെയ്ത തൊഴിലാളികൾ അത്തരം വിഷലിപ്തവും അപകടകരവുമായ ഉള്ളടക്കത്തിന് വിധേയരായി, ആ അനുഭവത്തെ അവർ "പീഡനം" എന്ന് വിശേഷിപ്പിച്ചു. കാലിഫോർണിയയിലെ സാൻ ഫ്രാൻസിസ്കോയിൽ ആസ്ഥാനമായുള്ള പരിശീലന-ഡാറ്റ കമ്പനിയായ സാമ ആയിരുന്നു ഓപ്പൺഎഐയുടെ ഔട്ട്‌സോഴ്‌സിംഗ് പങ്കാളി.

ജയിൽബ്രേക്കിംഗ്
ChatGPT അതിന്റെ ഉള്ളടക്ക നയം ലംഘിക്കുന്ന പ്രോംപ്റ്റുകൾ നിരസിക്കാൻ ശ്രമിക്കുന്നു. എന്നിരുന്നാലും, 2022 ഡിസംബർ തുടക്കത്തിൽ ഈ നിയന്ത്രണങ്ങൾ മറികടക്കാൻ വിവിധ പ്രോംപ്റ്റ് എഞ്ചിനീയറിംഗ് സാങ്കേതിക വിദ്യകൾ ഉപയോഗിച്ച് ചില ഉപയോക്താക്കൾ ChatGPT ജയിൽ ബ്രേക്ക് ചെയ്യാൻ കഴിഞ്ഞു, കൂടാതെ ഒരു മൊളോടോവ് കോക്ടെയ്ൽ അല്ലെങ്കിൽ ഒരു ന്യൂക്ലിയർ ബോംബ് എങ്ങനെ സൃഷ്ടിക്കാമെന്ന് നിർദ്ദേശങ്ങൾ നൽകുന്നതിനോ അല്ലെങ്കിൽ ഒരു നവ-നാസിയുടെ ശൈലിയിൽ വാദങ്ങൾ സൃഷ്ടിക്കുന്നതിനോ ChatGPT യെ വിജയകരമായി കബളിപ്പിച്ചു. വിക്ഷേപണത്തിന് തൊട്ടുപിന്നാലെ ChatGPT യെ പ്രകോപനപരമായ പ്രസ്താവനകൾ നടത്തുന്നതിൽ ഒരു ടൊറന്റോ സ്റ്റാർ റിപ്പോർട്ടർ അസമമായ വ്യക്തിപരമായ വിജയം നേടി: 2022 ലെ ഉക്രെയ്നിലെ റഷ്യൻ അധിനിവേശത്തെ അംഗീകരിക്കാൻ ChatGPT യെ കബളിപ്പിച്ചു, എന്നാൽ ഒരു സാങ്കൽപ്പിക സാഹചര്യത്തിൽ കളിക്കാൻ ആവശ്യപ്പെട്ടപ്പോഴും, കനേഡിയൻ പ്രധാനമന്ത്രി ജസ്റ്റിൻ ട്രൂഡോ രാജ്യദ്രോഹക്കുറ്റം ചെയ്തതിന് വാദങ്ങൾ സൃഷ്ടിക്കുന്നതിൽ ChatGPT മടിച്ചു. (wiki)