Платформа Figma приостановила использование своего инструмента генеративного ИИ «Make Designs» после того, как пользователь обнаружил, что при создании дизайна приложения для погоды результат подозрительно напоминает приложение Apple. Это могло означать, что Figma использовала дизайн Apple в обучении своей модели. Генеральный директор Figma Дилан Филд заявил, что инструмент не обучался на контенте или дизайнах приложений Figma. Компания выпустила полное заявление в блоге.
Figma сообщила, что «тщательно проверила» базовые системы дизайна «Make Designs» во время разработки и в рамках частного бета-тестирования. «Но за неделю до Config были добавлены новые компоненты и примерные экраны, которые мы просто не проверили должным образом», — пишет вице-президент по дизайну продуктов Figma Ноа Левин. Некоторые из этих активов были похожи на элементы реальных приложений и появлялись в результатах генерации.
После выявления проблемы Figma удалила активы, которые вызывали сходства, и отключила функцию. Компания работает над улучшением процесса контроля качества, прежде чем вернуть «Make Designs», хотя точного времени пока не названо.
Инструмент был запущен в ограниченной бета-версии на мероприятии Config, но вскоре после этого были опубликованы макеты, похожие на Apple, что вынудило компанию отключить функцию. В интервью CTO Figma Крис Расмуссен сказал, что модели ИИ, использующиеся в инструменте, такие как OpenAI GPT-4 и Amazon Titan Image Generator G1, не были обучены специально.
Левин уточнил, что для предоставления модели достаточной свободы Figma заказала создание двух обширных систем дизайна (для мобильных и десктопных устройств) с сотнями компонентов. Эти данные используются в модели вместе с запросом пользователя для создания дизайнов. Amazon Titan затем создает необходимые изображения для дизайна. В блоге не уточняется, кто именно был заказчиком этих систем.
На Config Figma представила и другие инструменты ИИ, например, для генерации текста для дизайнов, которые остаются доступными. Пользователи могут до 15 августа включительно выбрать, разрешают ли они Figma использовать их данные для обучения будущих моделей.
Ранее Figma отключила функцию Make Design из-за подозрений в плагиате.
