Поширити Джерело: Nature
Підсумки 6 значних розвідок великих мовних систем вказують, що чат-боти ChatGPT і Claude більш прихильно описували уряд, коли політичні питання ставили говіркою держави, де держава абсолютно контролює засоби масової інформації.
Головні тези:
- ChatGPT і Claude висловились про владу Китаю більш схвально китайською, ніж англійською.
- Це ще не є доказом безпосереднього втручання урядів в роботу чат-ботів, проте показує інший шлях впливу — через тексти, на яких ці системи тренуються.
ChatGPT і Claude знають, що таке політична цензура
Автори дослідження хотіли з’ясувати, чи може державний контроль ЗМІ впливати на відповіді чат-ботів.
З цією метою вони ретельно зіставили китайські тексти з медіа, підлеглих державі, з відкритими наборами даних, які використовують для навчання мовних систем.
Загалом було виявлено приблизно 3,1 мільйона китайськомовних документів зі значними збігами з подібними текстами.
Більш того, зазначено, що комерційні моделі по суті повторювали характерні вирази з державних медіатекстів, що вказало на можливу присутність схожих матеріалів у їхніх тренувальних даних.
Подібну закономірність помітили й у комерційних моделях ChatGPT від OpenAI та Claude від Anthropic. Коли їм ставили однакові питання про політику Китаю китайською та англійською, відповіді китайською найчастіше були більш доброзичливими до влади Китаю. А у зіставленні 37 країн моделі частіше давали більш прихильні до місцевого уряду відповіді мовами країн із більш жорстким контролем ЗМІ, ніж англійською.
Поширити