Федеральна торгова комісія США (FTC) змусила компанію HeHealth закрити свій додаток Calmara, який обіцяв використовувати штучний інтелект для виявлення захворювань, що передаються статевим шляхом (ЗПСШ).
Згідно з листом FTC від 11 липня, додаток пропонував користувачам надсилати дікпіки для перевірки на інфекції, що передаються статевим шляхом, обіцяючи «чіткі, науково обґрунтовані відповіді про стан сексуального здоров’я вашого партнера». У листі є деякі занепокоєння агентства щодо інформації, на яку спирався HeHealth у своїх заявах, зокрема, про те, що він може виявити понад 10 інфекцій, що передаються статевим шляхом, з точністю до 94 відсотків.
Комісія з’ясувала, що HeHealth оплачувала роботу авторів досліджень, на які посилалася. Крім того, головне дослідження охоплювало лише чотири види ЗПСШ замість заявлених десяти. Дані для навчання ШІ-моделі містили зображення від користувачів, які не проходили діагностичних тестів для підтвердження результатів.
Медичні фахівці висловили сумніви щодо надійності методів додатка, враховуючи, що більшість ЗПСШ не мають симптомів. Журналісти Los Angeles Times (Лос-Анджелес Таймс) виявили, що Calmara не розрізняв навіть неживі об’єкти та не міг ідентифікувати типові ознаки ЗПСШ на зображеннях.
HeHealth погодилася припинити роботу обох своїх додатків до 15 липня та видалити всю особисту інформацію клієнтів. Компанія також зобов’язалася звернутися до платіжних систем із проханням видалити дані про своїх користувачів.
Курс Full-stack developer від Mate academy. Full Stack JavaScript розробник — це суперніндзя, який може з нуля створити сайт. Навчайтесь та отримуйте гарантоване працевлаштування. Отримати знижку на курс
«FTC настільки віддана справі захисту споживачів, що навіть готова продиратися крізь сторінки з дікпіками, щоб захистити американців від шахраїв зі штучним інтелектом», — повідомило The Verge джерело, знайоме з цим питанням, яке побажало залишитися анонімним, оскільки не має права коментувати запис про розслідування.
Попри закриття розслідування, FTC застерегла, що може вжити подальших заходів, якщо цього вимагатимуть інтереси громадськості. Комісія наголосила на незаконності рекламних заяв про користь для здоров’я без надійних наукових доказів.
