Китайская модель искусственного интеллекта больше не может «бегать голышом»

Добавить Автора

С 15 августа вступили в силу «Временные меры по администрированию сервисов генеративного искусственного интеллекта» (далее «Временные меры»).

Для крупномасштабной модельной индустрии, которая безрассудно выросла и добилась быстрого прогресса за последние шесть месяцев или около того, можно сказать, что «Временные меры» вступили в силу в нужное время.

Согласно «Отчету об исследованиях больших моделей карт Китая с искусственным интеллектом», опубликованному Институтом научной и технологической информации Китая, по состоянию на первую половину 2023 года было выпущено 79 отечественных больших моделей с параметрами 1 миллиард и более, заняв второе место. в мире по численности уступает только США.

В процессе изучения промышленной экологии больших моделей данные являются необходимыми производственными данными, а также важным звеном, которое необходимо стандартизировать. Юрист Ван Чен сказал «Шицзе»: «Защита частной жизни в нашей стране уже давно отражена в соответствующих законах и постановлениях, таких как «Решение об усилении защиты сетевой информации», принятое в 2012 году, но с развитием технологии искусственного интеллекта. также постоянно внедряются сбор и использование персональной информации, что требует постоянной корректировки и дополнения на нормативном уровне».

«Временные меры», которые только что вступили в силу, являются первыми внутренними и даже глобальными нормативными актами, изданными для нынешней взрывоопасной индустрии генеративного искусственного интеллекта (AIGC).

На этом фоне Лю Цинфэн, председатель HKUST iFlytek, считает: «(С вступлением в силу «Временных мер») 15 августа откроет ключевой узел в развитии общего искусственного интеллекта Китая, а также станет важной вехой. узел. ».

** «Miao Duck Camera» не может забирать пользовательские данные **

Не так давно «Камера Miaoya», которая генерирует цифровые аватары и фотографии AI за 9,9 юаня, стала популярной во всем Интернете, и тысячи людей даже выстроились в очередь, чтобы сделать цифровые аватары. Однако в его политике конфиденциальности говорится, что разрешение, предоставленное пользователем Miaoya Camera, является «безотзывным», и что пользовательский контент может «использоваться в любой форме и в любом объеме» и другой неприемлемый контент.

Хотя разработчик Miaoya Camera позже ответил, что содержание первоначального соглашения было неправильным, и немедленно удалил соответствующие пункты, этот инцидент все еще вызывал обеспокоенность пользователей.

В газетах также появлялись случаи использования технологии AIGC для создания видео лиц и даже имитации человеческих голосов для новых видов мошенничества. По данным Министерства общественной безопасности, по состоянию на 10 августа выявлено 79 связанных с этим случаев мошенничества, вызванных «изменением лица ИИ», и арестовано 515 подозреваемых.

Инженер-алгоритм искусственного интеллекта Вэнь Му сказал «Шицзе»: «Стоимость использования технологии искусственного интеллекта для создания поддельных фотографий или видео лиц чрезвычайно низка. Теоретически преступникам нужна только обученная модель искусственного интеллекта и фотография жертвы. Это будет сделано. ”

Сюй Лян, руководитель компании AIGC, считает, что вышеупомянутые случаи ненадлежащего использования технологии ИИ свидетельствуют о том, что вся производственная цепочка индустрии крупномасштабных моделей нуждается в срочном регулировании. только в Китае, но и в глобальной области искусственного интеллекта — это темы, на которых необходимо сосредоточиться».

▲

«Временные меры», вступившие в силу 15 августа, состоят из 4 глав и 24 статей и четко оговаривают вышеперечисленные проблемные вопросы.

Например, «Временные меры» предусматривают, что при обработке данных, связанных с личной информацией, поставщики услуг AIGC должны получить личное согласие или соблюдать другие обстоятельства, предусмотренные законами и административными правилами, ответственность авторов, обязательства, связанные с управлением контентом, и т. д. Согласно анализу King & Wood Mallesons, это положение поможет предотвратить невыполнение соответствующими сторонами своих обязательств по соблюдению требований или попытки уклониться друг от друга.

Сюй Лян считает, что соответствующие положения о сфере применения в «Временных мерах» заслуживают особого внимания. Конкретные положения включают: использование технологии AIGC для предоставления населению услуг по созданию текста, изображений, аудио, видео и другого контента, эти меры применяются; отраслевые организации, предприятия, образовательные и научно-исследовательские учреждения, общественные учреждения культуры, соответствующие учреждения, и т. д. исследование, разработка и применение технологий AIGC. Если услуги AIGC не предоставляются населению страны, положения настоящих Мер не применяются.

«Насколько я понимаю, продукты AIGC уровня ToC будут подвергаться относительно строгому надзору на внутреннем рынке, но их можно рассматривать как отправку за границу. Однако, когда крупномасштабные модели продуктов, обученных в Китае, отправляются за границу, им также необходимо учитывать вопросы соответствия данных, передаваемых за границу». Сюй Лян сказал: «В целом «Временные меры» не являются строгими, что дает отрасли возможность свободного развития».

Стоит отметить, что «Временные меры» также предусматривают, что те, кто предоставляет генеративные услуги искусственного интеллекта с атрибутами общественного мнения или возможностями социальной мобилизации, должны проводить оценку безопасности в соответствии с соответствующими правилами и проходить регистрацию и другие процедуры.

С конца июля Apple AppStore выступил с инициативой удалить большое количество приложений генеративного ИИ в Китае. С вступлением в силу «Временных мер» в будущем такое прикладное программное обеспечение будет повторно запущено после выполнения соответствующих процедур.

**Как управлять ящиком Пандоры? **

В отрасли обычно считают, что на пути к стандартизированному развитию крупномасштабной индустрии моделей, помимо постоянного совершенствования законов и правил, предприятиям и отраслям также необходимо создать систему соответствия искусственному интеллекту.

Человек, отвечающий за виртуальную цифровую человеческую компанию, сказал «Шицзе»: «Применение новых технологий часто рождается раньше норм. Мы не можем пассивно ждать, но должны активно способствовать полезному и полезному развитию, исследуя и внедряя инновации в технологии и технологии. приложений». Направлять в направлении рынка и предоставлять услуги, которые необходимы рынку, отрасли и обществу. В то же время мы также будем проводить оценку рисков для выявления и оценки возможных негативных последствий технологического развития своевременно и сформулировать соответствующие контрмеры.Уделяя внимание предотвращению рисков. В то же время должны быть одновременно установлены механизмы устойчивости к ошибкам и механизмы исправления ошибок ».

Когда «Временные меры» вступили в силу, многие крупные предприятия также поделились своими идеями и прогрессом в построении системы соответствия требованиям искусственного интеллекта.

15 августа Лю Цинфэн, председатель iFlytek, заявил на пресс-конференции своей собственной крупномасштабной модели «Xunfei Spark Cognitive Model 2.0», что iFlytek разработала очистку обучающих данных и сгенерировала коррекцию контента.

Среди них, в процессе очистки данных, после сбора обучающего корпуса со всего мира, iFLYTEK очистит текст с помощью языковых дискриминаторов, дискриминаторов качества, дискриминаторов конфиденциальности и дискриминаторов безопасности и, наконец, получит высококачественный обучающий корпус. Столкнувшись с иллюзией больших моделей, идея iFLYTEK состоит в том, чтобы объединить возможности общих баз знаний, отраслевых баз знаний и больших моделей, использовать общие большие модели для изучения безопасных и профессиональных отраслевых баз знаний, а затем извлекать соответствующие знания. .

Baidu заявила, что реализовала безопасность и управляемость цепочки поставок в четырехуровневой архитектуре, состоящей из уровня микросхемы, уровня фреймворка, уровня модели и уровня приложений.Его собственная разработка платформы глубокого обучения «Flying Paddle» также имеет полное управление уязвимостями. механизм.

Согласно «Домашнему LLM (Large Language Model) Product Test», крупномасштабная модель Baidu «Wen Xin Yi Yan» и крупномасштабная модель Xunfei «Xunfei Xinghuo» имеют сходство в религиозных убеждениях, феодальных суевериях, панпорнографии, текущих событиях. , защита несовершеннолетних и Интернет.Объективность и справедливость ответов в смежных областях, таких как право безопасности, лучше, чем GPT-3.5.

Чжоу Хунъи, основатель 360 Group, заявил в интервью средствам массовой информации, что 360 запустила решение для крупномасштабной модели искусственного интеллекта на уровне предприятия и следует четырем принципам: «безопасность и надежность, хороший контент и достоверные результаты». создать вертикальную крупномасштабную модель уровня предприятия. Предоставить решения для 20 отраслей.

Согласно «Плану законодательной работы Госсовета на 2023 год», опубликованному 6 июня, китайский «Закон об искусственном интеллекте» также находится в законодательном процессе, и соответствующие правовые нормы будут все больше совершенствоваться.