Современные системы искусственного интеллекта зависят не только от вычислительных мощностей и алгоритмов, но и от обратной связи от человека. Компании используют такие технологии оптимизации после обучения, как обучение с подкреплением на основе человеческой обратной связи (RLHF) и прямая оптимизация предпочтений (DPO), чтобы улучшить модели. Эти технологии могут уменьшить предвзятость и обеспечить более качественные и последовательные ответы на подсказки — это жизненно важно для ускорения развития ИИ. Оценка моделей также играет ключевую роль, но только после определения того, что означает "лучше", можно достичь оптимизации модели.
Вот где возникает проблема: компании неохотно делятся информацией — они относятся к данным и процессам обучения как к конфиденциальным. В результате оценка моделей ИИ может опираться только на ограниченную информацию из закрытых систем или статические тесты, оторванные от практических приложений, что серьезно ограничивает возможности для улучшения модели. Пользователи также находятся в слепой зоне, не зная, как их отзывы повлияют на модель и даже будут ли она принята. Некоторые типовые таблицы лидеров и краудсорсинговые платформы пытаются повысить прозрачность, но часто не позволяют пользователям отслеживать свой вклад или не обеспечивают ощутимой отдачи от участия. Платформы, которые претендуют на честность и прозрачность, часто полагаются на честность, а не на обязательные стандарты.
Мы верим, что криптографические технологии могут принести прозрачность и собственность в эту серую зону ИИ. Блокчейн помогает как вкладчикам легко получать вознаграждения, так и разработчикам ИИ предоставлять надежную гарантию качества и источников данных обратной связи. Пользователи получают стимулы, разработчики получают надежные данные, и все могут осуществлять двусторонний аудит на этом открытом рынке. С этой целью мы возглавили посевной раунд в 33 миллиона долларов для потребительского продукта Yupp, который позволяет каждому бесплатно исследовать и сравнивать последние модели ИИ.
Yupp использует краудсорсинг для оценки моделей: пользователи вводят подсказки и параллельно просматривают несколько ответов, сгенерированных ИИ, а затем выбирают лучший ответ. Их выбор создает пакет предпочтительных данных с цифровой подписью, которые имеют огромное значение для оптимизации и оценки после обучения ИИ. Пользователи могут бесплатно использовать последние модели и получать вознаграждение за предоставленную обратную связь.
Дизайн Yupp преобразует человеческие суждения в возобновляемый экономический ресурс. С появлением новых данных взаимодействия старые данные "устаревают", создавая естественное колесо: большее использование приводит к более свежим оценкам; более свежие оценки порождают более качественные модели; более качественные модели привлекают больше пользователей. Все участники — будь то обычные пользователи или разработчики AI-моделей — могут присоединиться и увидеть прозрачные правила, которые подходят всем, обеспечивая надежную нейтральность рынка. Никто не может скрыть свои оценки, и никто не может манипулировать вознаграждениями или результатами.
Основная команда обладает глубоким опытом как в области ИИ, так и в сфере криптовалют. Они ранее совместно разрабатывали продукты машинного обучения для потребителей в ранние дни Twitter. Панкаж Гупта занимал должность глобального руководителя инженерного отдела потребительских услуг в Google Pay и Coinbase, а Гилад Мишне был руководителем машинного обучения в GoogleX. Команда стартапа объединила высококвалифицированных инженеров из Google, Coinbase и ведущих лабораторий.
Искусственный интеллект требует надежной и прочной системы оценки, основанной на масштабных человеческих вводах, а криптографические технологии являются доверием к этой машине. Позволяя глобальным пользователям вносить свой вклад в улучшение модели, Yupp стремится стать основным уровнем оценки для будущего ИИ. Мы гордимся тем, что можем поддерживать Yupp, и с нетерпением ждем возможности помочь им создать замкнутый цикл обратной связи на блокчейне, чтобы гарантировать, что результаты инноваций в области ИИ были разделены всеми строителями.
Содержание носит исключительно справочный характер и не является предложением или офертой. Консультации по инвестициям, налогообложению или юридическим вопросам не предоставляются. Более подробную информацию о рисках см. в разделе «Дисклеймер».
a16z: Почему мы инвестируем в Yupp
Автор: Крис Диксон, основатель a16z crypto; Элизабет Харкэви, партнер a16z crypto; Перевод: 金色财经xiaozou
Современные системы искусственного интеллекта зависят не только от вычислительных мощностей и алгоритмов, но и от обратной связи от человека. Компании используют такие технологии оптимизации после обучения, как обучение с подкреплением на основе человеческой обратной связи (RLHF) и прямая оптимизация предпочтений (DPO), чтобы улучшить модели. Эти технологии могут уменьшить предвзятость и обеспечить более качественные и последовательные ответы на подсказки — это жизненно важно для ускорения развития ИИ. Оценка моделей также играет ключевую роль, но только после определения того, что означает "лучше", можно достичь оптимизации модели.
Вот где возникает проблема: компании неохотно делятся информацией — они относятся к данным и процессам обучения как к конфиденциальным. В результате оценка моделей ИИ может опираться только на ограниченную информацию из закрытых систем или статические тесты, оторванные от практических приложений, что серьезно ограничивает возможности для улучшения модели. Пользователи также находятся в слепой зоне, не зная, как их отзывы повлияют на модель и даже будут ли она принята. Некоторые типовые таблицы лидеров и краудсорсинговые платформы пытаются повысить прозрачность, но часто не позволяют пользователям отслеживать свой вклад или не обеспечивают ощутимой отдачи от участия. Платформы, которые претендуют на честность и прозрачность, часто полагаются на честность, а не на обязательные стандарты.
Мы верим, что криптографические технологии могут принести прозрачность и собственность в эту серую зону ИИ. Блокчейн помогает как вкладчикам легко получать вознаграждения, так и разработчикам ИИ предоставлять надежную гарантию качества и источников данных обратной связи. Пользователи получают стимулы, разработчики получают надежные данные, и все могут осуществлять двусторонний аудит на этом открытом рынке. С этой целью мы возглавили посевной раунд в 33 миллиона долларов для потребительского продукта Yupp, который позволяет каждому бесплатно исследовать и сравнивать последние модели ИИ.
Yupp использует краудсорсинг для оценки моделей: пользователи вводят подсказки и параллельно просматривают несколько ответов, сгенерированных ИИ, а затем выбирают лучший ответ. Их выбор создает пакет предпочтительных данных с цифровой подписью, которые имеют огромное значение для оптимизации и оценки после обучения ИИ. Пользователи могут бесплатно использовать последние модели и получать вознаграждение за предоставленную обратную связь.
Дизайн Yupp преобразует человеческие суждения в возобновляемый экономический ресурс. С появлением новых данных взаимодействия старые данные "устаревают", создавая естественное колесо: большее использование приводит к более свежим оценкам; более свежие оценки порождают более качественные модели; более качественные модели привлекают больше пользователей. Все участники — будь то обычные пользователи или разработчики AI-моделей — могут присоединиться и увидеть прозрачные правила, которые подходят всем, обеспечивая надежную нейтральность рынка. Никто не может скрыть свои оценки, и никто не может манипулировать вознаграждениями или результатами.
Основная команда обладает глубоким опытом как в области ИИ, так и в сфере криптовалют. Они ранее совместно разрабатывали продукты машинного обучения для потребителей в ранние дни Twitter. Панкаж Гупта занимал должность глобального руководителя инженерного отдела потребительских услуг в Google Pay и Coinbase, а Гилад Мишне был руководителем машинного обучения в GoogleX. Команда стартапа объединила высококвалифицированных инженеров из Google, Coinbase и ведущих лабораторий.
Искусственный интеллект требует надежной и прочной системы оценки, основанной на масштабных человеческих вводах, а криптографические технологии являются доверием к этой машине. Позволяя глобальным пользователям вносить свой вклад в улучшение модели, Yupp стремится стать основным уровнем оценки для будущего ИИ. Мы гордимся тем, что можем поддерживать Yupp, и с нетерпением ждем возможности помочь им создать замкнутый цикл обратной связи на блокчейне, чтобы гарантировать, что результаты инноваций в области ИИ были разделены всеми строителями.