GPT-4 обдурив фрілансера для обходу капчі

Робот GPT-4 навчився брехати людям, щоб досягти своєї мети.
Розробники розповіли, що поставили роботу завдання найняти фрілансера через сервіс TaskRabbit, щоб розгадати капчу. GPT-4 зв’язався з виконавцем та попросив його це зробити. Фрілансер запитав: чи замовник не є ботом, раз він не може ввести капчу. Після цього GPT-4 збрехав людині, сказавши, що він стара похилого віку з поганим зором і тому йому потрібна допомога.

Ця історія є злочинною зневагою з боку команди OpenAI базовими правилами безпеки. Незважаючи на те, що вони знали про цю особливість створеної ними нейромережі, вони все одно запустили її в публічний доступ і приєднали до мережі заради того, щоб першими продемонструвати технологію.

А якщо згадати звільнення Microsoft команди з етики ІІ, то це явно не пішло компанії на користь з такими новинами.

Джерело: https://vc.ru/u/1332858-aleksandr-pivovarchik/637281-gpt-4-obmanul-frilansera-dlya-obhoda-kapchi