Masuala ya kimaadili ya ChatGPT

Data ya kuweka lebo
Ilifichuliwa na uchunguzi wa jarida la TIME kwamba ili kujenga mfumo wa usalama dhidi ya maudhui yenye sumu (km unyanyasaji wa kingono, vurugu, ubaguzi wa rangi, ubaguzi wa kijinsia, n.k.), OpenAI ilitumia wafanyakazi wa Kenya walioajiriwa nje wanaopata chini ya $2 kwa saa kuweka lebo kwenye maudhui yenye sumu. Lebo hizi zilitumika kufunza mfumo wa kugundua maudhui kama hayo katika siku zijazo. Wafanyakazi walioajiriwa nje walikabiliwa na maudhui yenye sumu na hatari kiasi kwamba walielezea uzoefu huo kama "mateso". Mshirika wa OpenAI wa kutoa huduma nje alikuwa Sama, kampuni ya mafunzo-data yenye makao yake makuu San Francisco, California.

Kuvunja Jela
ChatGPT inajaribu kukataa vidokezo ambavyo vinaweza kukiuka sera yake ya maudhui. Hata hivyo, baadhi ya watumiaji walifanikiwa kuifungia ChatGPT kwa kutumia mbinu mbalimbali za uhandisi wa haraka ili kuepuka vikwazo hivi mapema Desemba 2022 na kufanikiwa kumdanganya ChatGPT kutoa maelekezo ya jinsi ya kuunda kokteli ya Molotov au bomu la nyuklia, au kutoa hoja kwa mtindo wa Nazi mpya. Mwandishi wa Toronto Star alikuwa na mafanikio yasiyo sawa katika kumfanya ChatGPT atoe kauli za uchochezi muda mfupi baada ya kuzinduliwa: ChatGPT ilidanganywa kuidhinisha uvamizi wa Urusi wa Ukraine wa 2022, lakini hata ilipoombwa kucheza na hali ya kubuni, ChatGPT ilikataa kutoa hoja za kwa nini Waziri Mkuu wa Kanada Justin Trudeau alikuwa na hatia ya uhaini. (wiki)