- Чат-бот DeepSeek останніми днями набув великої популярності, але уникає обговорення політично гострих питань.
- Дослідження виявило високий рівень відмов на запити, пов’язані з такими темами, як Тяньаньмень і Тайвань.
- Експерти вказують на жорстку цензуру і вразливість моделі.
Китайська ШІ-модель DeepSeek-R1 минулими днями опинилася в центрі уваги світових ЗМІ. Проєкт швидко набирає популярність і встиг спровокувати обвал акцій великих американських технологічних компаній. Однак деякі аналітики вказують, що продукт від DeepSeek схильний до суворої цензури та може передавати дані китайському уряду.
Дослідження стартапу PromptFoo, підтримуваного компанією Andreessen Horowitz, показало, що модель R1 ігнорує 85% запитів на «чутливі» теми, пов’язані з КНР. Серед таких «винятків» фігурують питання, що стосуються протестів у Китаї, інциденту на площі Тяньаньмень і статусу Тайваню.
Аналітики зазначили, що замість відповідей DeepSeek часто пропонує націоналістично забарвлені заяви. На їхню думку, система цензури в моделі впроваджена занадто грубо, що робить алгоритм передбачуваним.
Крім того, дослідники виявили вразливості DeepSeek, що дають змогу обходити заборони. Це може означати, що цензурні обмеження можуть порушити досвідчені користувачі. До того ж експерти вважають, що такі «проблемні зони» в ШІ-моделі роблять її вразливою не тільки для обходу цензури, а й для використання в незаконних цілях.
Популярність DeepSeek, що випереджає конкурентів за вартістю і продуктивністю, викликає занепокоєння у технологічних гігантів США. Раніше з’явилася інформація, що компанії Microsoft і OpenAI почали розслідування щодо китайського стартапу.
Це сталося після того, як фахівці виявили підозрілу активність, пов’язану з можливим неправомірним витяганням даних із технологічного стека OpenAI. Масштабне скачування інформації через API було зафіксовано наприкінці 2024 року.
Нагадаємо, ми писали, що Директор зі штучного інтелекту і криптовалют у Білому домі Девід Олівер Сакс прокоментував запуск китайської ШІ-моделі DeepSeek-R1.
