*Источник изображения: создан инструментом Unbounded AI
Большие модели иллюзорны, и их проявления различны, например, конфликты с фактами, и их причин много, например, отсутствие соответствующих знаний или ошибки согласования, оставляющие еще больше неясных моментов. Но самый критический момент, связанный с приложением, не в этом, а в следующем: Похоже, что галлюцинации — это то, что невозможно решить в краткосрочной перспективе, даже для OpenAI. Когда это будет рассмотрено как предварительные условия и инварианты, вы обнаружите, что, как и люди, иллюзии не так уж и плохи.
По тренду и против тренда
Возьмем за вертикальную ось, полезны или вредны галлюцинации для продукта, а по горизонтальной оси добавим ответственность за проблемы, чтобы сформировать простую систему координат, а затем разместим в этой системе координат различных агентов искусственного интеллекта, тогда это, вероятно, будет выглядеть так этот:
Могут возникать споры о позициях различных искусственных агентов, но несколько крайних значений не должны стать большой проблемой.
Для Метавселенной это игра высокого уровня.Необычное поведение персонажей действительно будет стимулировать разнообразие игрового повествования и станет частью питания для обогащения мирового контента.Для консультации это очень хлопотно.Если это так используется вне существующих рамок медицинских знаний, тогда состояние больного становится тяжелым, что не только вредно, но и имеет тяжелые последствия. На самом деле в реальной жизни есть больше вещей, похожих на консультации, включая обслуживание клиентов, налоговые консультации и т. д.
В статье В поисках интеллектуального маховика: от истощения данных к мультимодальности и к самогенерации мы упоминали, что никто, кроме AlphaGo, не крутил интеллектуальный маховик, и поскольку, как только маховик повернется, он неизбежно создаст богов в определенных областях, поэтому Люди, которых беспокоит это приложение искусственного интеллекта, обеспокоены тем, где может быть еще один умный маховик, как показано на рисунке ниже:
Ответ также можно найти в диаграмме квадрантов выше: чем ближе к направлению метавселенной, тем проще будет. Иллюзия может создавать новые данные с низкими затратами на ответственность, а новые данные можно интегрировать в сцену, которая, в свою очередь, может использоваться в качестве топлива для привода маховика. **
Позиция в квадранте — это позиция
Положение в квадранте очень важно для внедрения продуктов искусственного интеллекта.
**Эта позиция в значительной степени определяет ваши эксплуатационные расходы и даже скорость работы. И ограничения, с которыми он сталкивается, очень жесткие и неизменяемые. **
В обычном понимании мы все рассматриваем товары как набор характеристик, выраженных в терминах того, что они могут и чего не могут, функциональных параметров и т. д. На более продвинутом уровне бренд формируется из эстетических предпочтений. Но оно не является всеобъемлющим. На более глубоком уровне продукт также является точкой соприкосновения системы прав, обязанностей и льгот. На продуктах со стороны C это не так очевидно, как на стороне B.
Раньше об этом редко упоминали, потому что в экономической системе есть только один разумный агент: люди. Вся экономическая система основана на правах, обязанностях и льготах, определяемых физическими и юридическими лицами. Но теперь эта система фактически сталкивается с новыми проблемами.
Простейшим примером является автономное вождение, о котором часто говорили в прошлом. (Оказывается, ответственность за аварии в основном лежит на пользователе. Ответственность лежит на том, кто управляет автомобилем. С автономным вождением это уже не так)
**Это будет очень хлопотно, поскольку искусственный интеллект не является субъектом прав и интересов, но, похоже, должен нести соответствующие обязанности. Но на самом деле это похоже на то, как Дон Кихот борется с ветряными мельницами, что в принципе невозможно. **
Ребалансировка прав, обязанностей и выгод пользователей и Стороны А фактически определит направление распределения ограниченных ресурсов компании, как эстафету. (общие социальные затраты, которые фактически создают конкретное место)
Разве не стыдно делать это, когда ввод и вывод неудовлетворительны?
Основная причина этого затруднения заключается в том, что технологии не могут полностью компенсировать права и обязанности.
Права и обязанности, которые невозможно застраховать
Почему технологии не могут полностью компенсировать права и обязанности?
Это, конечно, связано с тем, что технологии всегда проходят процесс зрелости, но наиболее важная причина заключается в том, что, хотя цифровые технологии и интеллект делают проблемы явными, права и обязанности расширяются. **
Столкнувшись с четко представимыми численными результатами, каждый клиент захочет решать проблемы без ограничений, и в прошлом эти ограничения подавлялись.
В качестве примера можно взять обслуживание клиентов:
При найме тысяч или сотен людей для обслуживания клиентов сама служба должна иметь проблемы с доходностью. Но в настоящее время каждый может допустить определенное количество ошибок.Все знают, что люди будут совершать ошибки.Кроме того, персонал по обслуживанию клиентов найти непросто, поэтому каждый сохраняет определенную терпимость к этому уровню доходности. Если сотрудники службы поддержки клиентов не обеспечивают хорошее обслуживание и теряют заказ, соответствующие сотрудники службы поддержки клиентов будут уволены или в лучшем случае будут вычтены деньги. Трудно возместить ущерб, причиненный службой поддержки клиентов.
Когда служба поддержки клиентов была заменена агентом искусственного интеллекта, все осталось по-прежнему, но соотношение власти и ответственности незаметно изменилось.
Даже если производительность искусственного интеллекта превысит доходность предыдущего ручного труда, с точки зрения Стороны А, все равно будет достаточно мотивации для привлечения к ответственности компаний, предоставляющих услуги искусственного интеллекта. Технологическим компаниям, стоящим за этим, придется найти способы сделать органы искусственного интеллекта безошибочными.
Это использование технологий для защиты прав и ответственности.
**Суть в том, чтобы использовать технологии для решения проблем практически в неограниченных областях. Со временем ситуация становилась все более и более запутанной, потому что я не мог в этом разобраться. Индустрия искусственного интеллекта повторяет эту историю с момента появления умных колонок. **
Реальная ситуация такова, что даже если древние поисковые системы не совершают ошибок, например, если определенный тип контента появляется один раз, а затем уничтожается, то такие компании, как Google и Baidu, умрут бесчисленное количество раз.
Однако толерантность к системе власти и ответственности** на самом деле имеет множество причин. Она имеет историю, культуру и бизнес-реальность. Она очень жесткая и вряд ли изменится**. А если оно не может измениться, то оно не очень подходит чисто искусственному существу. Компромиссный метод, который я могу придумать, это посадить человека обратно. Даже если человек ничего не делает и только показывает себя, он выполняет свои должностные обязанности, искусственное тело ему служит, и он отвечает за всю продукцию.
Таким образом, выбор и позиционирование имеют решающее значение, поскольку сама система полномочий и ответственности — это стоимость, направление и удовлетворенность клиентов («Думать — это проблема, делать — это ответ» неправильно, Лэй Цзюнь сказал, что это невозможно** Просто сделай это Конец старой темы, которая неправильная). Если исходить из того, что иллюзия является частью интеллекта, то если вы действительно пойдете в область, где система власти и ответственности очень тяжелая, на самом деле это принесет половину результата с половиной усилий.
Исходя из этой точки зрения, мы можем пойти немного выше и поговорить о модели применения новых технологий.
Прикладная модель новой технологии
Обсуждая модель приложения, давайте сначала вернемся к самим людям.
Основные подсистемы человеческой цивилизации: политика, экономика и культура на самом деле создаются посредством повторяющихся процессов сначала виртуальности, затем реальности, а затем реальности и виртуальности. Еще 300 лет назад не было разделения властей, свободы, демократии и социализма, конечно, не было ни автомобилей, ни скоростной железной дороги, ни велосипедов.
Они основаны на воображении и какой-то логической рациональности, плюс еще одна волна людей, которые нашли связь между воображением, физическими законами и деловыми играми, и тогда воображение воплотится в реальность. Поезда, электричество, автомобили, мобильные телефоны и т. д. – все это пришло в мир таким образом.
Затем мы вернемся к 12 февраля 1912 года, когда Пуи отрекся от престола, чтобы увидеть роль воображения.
Многие из продуктов, которые оказывают на нас сегодня глубокое влияние, на самом деле были изобретены до 1912 года. Продукты включают паровые двигатели, автомобили, электричество, пенициллин, телефоны, фотоаппараты, батарейки и т. д. Среди персонажей — Нобель, Эдисон, Тесла, Форд и т. д. . Эти продукты, как правило, не пользовались успехом после своего появления. Например, паровые машины часто взрывались. Эдисон когда-то в основном атаковал переменный ток как опасный и легко убивающий людей электрическим током. Однако относительно толерантная окружающая среда позволила этим продуктам выжить.
**Представьте, если бы Цыси и другие считали, что возвращение поездов мешает фэн-шуй предков, то такого разнообразия не было бы. Использование династией Цин литературной инквизиции и других методов подавления мысли было на самом деле эффективным. В определенной степени было достигнуто стабильность, на которую она надеялась. Однако, хотя стабильность была очень хорошей, эффективность всей системы была очень низкой. Отречение Пуи в 1912 г. можно рассматривать так: Плохие результаты деятельности. **
Какое просветление это нам дает?
**Новым технологиям целесообразнее начинать в местах с низкими общими социальными издержками. Чем слабее система прав и обязанностей, тем ниже стоимость проб и ошибок и тем больше шансов на то, что незрелые продукты, движимые новыми технологиями, развернутся. **
Вопрос общих социальных издержек очень сложен и здесь не будет обсуждаться. (Как не поверить, что появление поезда разрушит фэн-шуй.)
Для людей, являющихся инновационными субъектами, очевидно, необходимо избегать сложных систем прав и обязанностей.
Поскольку технология незрелая, если вы все еще будете использовать ее для хеджирования рисков сложных прав и обязанностей, это определенно будет неблагодарно.
Возвращаясь к искусственному интеллекту, как бы он выглядел, если быть более конкретным?
**Независимость от того, является ли сама среда свободной или нет, на данный момент может не иметь решающего значения. Сложная система прав и обязанностей может облегчить создание денежного потока. Но позже это может стать более критичным. Поскольку основной интеллектуальный маховик работает, на самом деле это разница между 1,01 в 99-й степени и 0,99 в 99-й степени. **
Кевин Келли выразил эту точку зрения в книге «Чего хотят технологии».
То же самое верно и для искусственных тел. Эта небольшая разница может позже стать разницей в том, сможет ли интеллектуальный маховик вращаться или нет.
Проще говоря, сама модель применения искусственного интеллекта такова: **Находите галлюцинации, которые приносят пользу, ограничивая права и обязанности в менее сложных областях, а затем развивайте их изнутри наружу, а не поощряйте рост. **
Краткое содержание
**С этой точки зрения верно, что иллюзия — это разум, по крайней мере, движущая сила разумного маховика. **Во многих случаях именно иллюзия дает нам ощущение разума.Чтобы полностью устранить иллюзию и при этом сохранить разум, нам действительно необходимо достичь сверхединого тела (высшая мудрость Кри).Это очень хорошо идеально., но я думаю, если предположить, что искусственный интеллект не может построить полную модель мира, то устранить эту иллюзию невозможно. Поэтому вместо того, чтобы рассчитывать на использование технологий для решения этой проблемы, лучше пересмотреть модель приложения. в соответствии с прогрессом технологии.
Посмотреть Оригинал
На этой странице может содержаться сторонний контент, который предоставляется исключительно в информационных целях (не в качестве заявлений/гарантий) и не должен рассматриваться как поддержка взглядов компании Gate или как финансовый или профессиональный совет. Подробности смотрите в разделе «Отказ от ответственности» .
Иллюзия — это интеллект: разделительная линия между следованием тенденции и движением против нее при внедрении ИИ
Источник: Ли Чжиюн
Большие модели иллюзорны, и их проявления различны, например, конфликты с фактами, и их причин много, например, отсутствие соответствующих знаний или ошибки согласования, оставляющие еще больше неясных моментов. Но самый критический момент, связанный с приложением, не в этом, а в следующем: Похоже, что галлюцинации — это то, что невозможно решить в краткосрочной перспективе, даже для OpenAI. Когда это будет рассмотрено как предварительные условия и инварианты, вы обнаружите, что, как и люди, иллюзии не так уж и плохи.
По тренду и против тренда
Возьмем за вертикальную ось, полезны или вредны галлюцинации для продукта, а по горизонтальной оси добавим ответственность за проблемы, чтобы сформировать простую систему координат, а затем разместим в этой системе координат различных агентов искусственного интеллекта, тогда это, вероятно, будет выглядеть так этот:
Для Метавселенной это игра высокого уровня.Необычное поведение персонажей действительно будет стимулировать разнообразие игрового повествования и станет частью питания для обогащения мирового контента.Для консультации это очень хлопотно.Если это так используется вне существующих рамок медицинских знаний, тогда состояние больного становится тяжелым, что не только вредно, но и имеет тяжелые последствия. На самом деле в реальной жизни есть больше вещей, похожих на консультации, включая обслуживание клиентов, налоговые консультации и т. д.
В статье В поисках интеллектуального маховика: от истощения данных к мультимодальности и к самогенерации мы упоминали, что никто, кроме AlphaGo, не крутил интеллектуальный маховик, и поскольку, как только маховик повернется, он неизбежно создаст богов в определенных областях, поэтому Люди, которых беспокоит это приложение искусственного интеллекта, обеспокоены тем, где может быть еще один умный маховик, как показано на рисунке ниже:
Позиция в квадранте — это позиция
Положение в квадранте очень важно для внедрения продуктов искусственного интеллекта.
**Эта позиция в значительной степени определяет ваши эксплуатационные расходы и даже скорость работы. И ограничения, с которыми он сталкивается, очень жесткие и неизменяемые. **
В обычном понимании мы все рассматриваем товары как набор характеристик, выраженных в терминах того, что они могут и чего не могут, функциональных параметров и т. д. На более продвинутом уровне бренд формируется из эстетических предпочтений. Но оно не является всеобъемлющим. На более глубоком уровне продукт также является точкой соприкосновения системы прав, обязанностей и льгот. На продуктах со стороны C это не так очевидно, как на стороне B.
Раньше об этом редко упоминали, потому что в экономической системе есть только один разумный агент: люди. Вся экономическая система основана на правах, обязанностях и льготах, определяемых физическими и юридическими лицами. Но теперь эта система фактически сталкивается с новыми проблемами.
Простейшим примером является автономное вождение, о котором часто говорили в прошлом. (Оказывается, ответственность за аварии в основном лежит на пользователе. Ответственность лежит на том, кто управляет автомобилем. С автономным вождением это уже не так)
**Это будет очень хлопотно, поскольку искусственный интеллект не является субъектом прав и интересов, но, похоже, должен нести соответствующие обязанности. Но на самом деле это похоже на то, как Дон Кихот борется с ветряными мельницами, что в принципе невозможно. **
Ребалансировка прав, обязанностей и выгод пользователей и Стороны А фактически определит направление распределения ограниченных ресурсов компании, как эстафету. (общие социальные затраты, которые фактически создают конкретное место)
Разве не стыдно делать это, когда ввод и вывод неудовлетворительны?
Основная причина этого затруднения заключается в том, что технологии не могут полностью компенсировать права и обязанности.
Права и обязанности, которые невозможно застраховать
Почему технологии не могут полностью компенсировать права и обязанности?
Это, конечно, связано с тем, что технологии всегда проходят процесс зрелости, но наиболее важная причина заключается в том, что, хотя цифровые технологии и интеллект делают проблемы явными, права и обязанности расширяются. **
Столкнувшись с четко представимыми численными результатами, каждый клиент захочет решать проблемы без ограничений, и в прошлом эти ограничения подавлялись.
В качестве примера можно взять обслуживание клиентов:
Когда служба поддержки клиентов была заменена агентом искусственного интеллекта, все осталось по-прежнему, но соотношение власти и ответственности незаметно изменилось.
Даже если производительность искусственного интеллекта превысит доходность предыдущего ручного труда, с точки зрения Стороны А, все равно будет достаточно мотивации для привлечения к ответственности компаний, предоставляющих услуги искусственного интеллекта. Технологическим компаниям, стоящим за этим, придется найти способы сделать органы искусственного интеллекта безошибочными.
Это использование технологий для защиты прав и ответственности.
**Суть в том, чтобы использовать технологии для решения проблем практически в неограниченных областях. Со временем ситуация становилась все более и более запутанной, потому что я не мог в этом разобраться. Индустрия искусственного интеллекта повторяет эту историю с момента появления умных колонок. **
Реальная ситуация такова, что даже если древние поисковые системы не совершают ошибок, например, если определенный тип контента появляется один раз, а затем уничтожается, то такие компании, как Google и Baidu, умрут бесчисленное количество раз.
Однако толерантность к системе власти и ответственности** на самом деле имеет множество причин. Она имеет историю, культуру и бизнес-реальность. Она очень жесткая и вряд ли изменится**. А если оно не может измениться, то оно не очень подходит чисто искусственному существу. Компромиссный метод, который я могу придумать, это посадить человека обратно. Даже если человек ничего не делает и только показывает себя, он выполняет свои должностные обязанности, искусственное тело ему служит, и он отвечает за всю продукцию.
Таким образом, выбор и позиционирование имеют решающее значение, поскольку сама система полномочий и ответственности — это стоимость, направление и удовлетворенность клиентов («Думать — это проблема, делать — это ответ» неправильно, Лэй Цзюнь сказал, что это невозможно** Просто сделай это Конец старой темы, которая неправильная). Если исходить из того, что иллюзия является частью интеллекта, то если вы действительно пойдете в область, где система власти и ответственности очень тяжелая, на самом деле это принесет половину результата с половиной усилий.
Исходя из этой точки зрения, мы можем пойти немного выше и поговорить о модели применения новых технологий.
Прикладная модель новой технологии
Обсуждая модель приложения, давайте сначала вернемся к самим людям.
Основные подсистемы человеческой цивилизации: политика, экономика и культура на самом деле создаются посредством повторяющихся процессов сначала виртуальности, затем реальности, а затем реальности и виртуальности. Еще 300 лет назад не было разделения властей, свободы, демократии и социализма, конечно, не было ни автомобилей, ни скоростной железной дороги, ни велосипедов.
Они основаны на воображении и какой-то логической рациональности, плюс еще одна волна людей, которые нашли связь между воображением, физическими законами и деловыми играми, и тогда воображение воплотится в реальность. Поезда, электричество, автомобили, мобильные телефоны и т. д. – все это пришло в мир таким образом.
Затем мы вернемся к 12 февраля 1912 года, когда Пуи отрекся от престола, чтобы увидеть роль воображения.
Многие из продуктов, которые оказывают на нас сегодня глубокое влияние, на самом деле были изобретены до 1912 года. Продукты включают паровые двигатели, автомобили, электричество, пенициллин, телефоны, фотоаппараты, батарейки и т. д. Среди персонажей — Нобель, Эдисон, Тесла, Форд и т. д. . Эти продукты, как правило, не пользовались успехом после своего появления. Например, паровые машины часто взрывались. Эдисон когда-то в основном атаковал переменный ток как опасный и легко убивающий людей электрическим током. Однако относительно толерантная окружающая среда позволила этим продуктам выжить.
**Представьте, если бы Цыси и другие считали, что возвращение поездов мешает фэн-шуй предков, то такого разнообразия не было бы. Использование династией Цин литературной инквизиции и других методов подавления мысли было на самом деле эффективным. В определенной степени было достигнуто стабильность, на которую она надеялась. Однако, хотя стабильность была очень хорошей, эффективность всей системы была очень низкой. Отречение Пуи в 1912 г. можно рассматривать так: Плохие результаты деятельности. **
Какое просветление это нам дает?
**Новым технологиям целесообразнее начинать в местах с низкими общими социальными издержками. Чем слабее система прав и обязанностей, тем ниже стоимость проб и ошибок и тем больше шансов на то, что незрелые продукты, движимые новыми технологиями, развернутся. **
Вопрос общих социальных издержек очень сложен и здесь не будет обсуждаться. (Как не поверить, что появление поезда разрушит фэн-шуй.)
Для людей, являющихся инновационными субъектами, очевидно, необходимо избегать сложных систем прав и обязанностей.
Поскольку технология незрелая, если вы все еще будете использовать ее для хеджирования рисков сложных прав и обязанностей, это определенно будет неблагодарно.
Возвращаясь к искусственному интеллекту, как бы он выглядел, если быть более конкретным?
**Независимость от того, является ли сама среда свободной или нет, на данный момент может не иметь решающего значения. Сложная система прав и обязанностей может облегчить создание денежного потока. Но позже это может стать более критичным. Поскольку основной интеллектуальный маховик работает, на самом деле это разница между 1,01 в 99-й степени и 0,99 в 99-й степени. **
Кевин Келли выразил эту точку зрения в книге «Чего хотят технологии».
То же самое верно и для искусственных тел. Эта небольшая разница может позже стать разницей в том, сможет ли интеллектуальный маховик вращаться или нет.
Проще говоря, сама модель применения искусственного интеллекта такова: **Находите галлюцинации, которые приносят пользу, ограничивая права и обязанности в менее сложных областях, а затем развивайте их изнутри наружу, а не поощряйте рост. **
Краткое содержание
**С этой точки зрения верно, что иллюзия — это разум, по крайней мере, движущая сила разумного маховика. **Во многих случаях именно иллюзия дает нам ощущение разума.Чтобы полностью устранить иллюзию и при этом сохранить разум, нам действительно необходимо достичь сверхединого тела (высшая мудрость Кри).Это очень хорошо идеально., но я думаю, если предположить, что искусственный интеллект не может построить полную модель мира, то устранить эту иллюзию невозможно. Поэтому вместо того, чтобы рассчитывать на использование технологий для решения этой проблемы, лучше пересмотреть модель приложения. в соответствии с прогрессом технологии.