Глава відділу Пентагону, який відповідає за розробки, пов’язані зі штучним інтелектом, заявив, що генеративний штучний інтелект може стати ідеальним інструментом для дезінформації.
“Так, я наляканий до смерті. Це моя думка”, – заявив Крейг Мартелл, головний фахівець Міністерства оборони з цифрових технологій і штучного інтелекту, коли його запитали про генеративний штучний інтелект.
Він заявив, що такі мовні моделі ШІ, як ChatGPT, створюють реальну проблему: вони не розуміють контексту, а люди сприйматимуть їхні слова як факт.
“Це мій найбільший страх перед ChatGPT, – сказав він. – Він був навчений вільно висловлювати свої думки. Говорить вільно й авторитетно. Таким чином, ви вірите в те, що говорить ChatGPT, навіть коли інформація неправильна. І це означає, що це ідеальний інструмент для дезінформації… Нам дійсно потрібні інструменти для виявлення подібних ситуацій. І в нас немає цих інструментів. Ми відстаємо в цій боротьбі”.
Він закликав фахівців створити інструменти, необхідні для забезпечення точності інформації, отриманої з усіх генеративних моделей ШІ – від тексту до зображень.
