Ви все ще нарікаєте на революційні зміни, спричинені генеративним ШІ? Нарікаєте на силу GPT-4? Все ще здогадуєтесь, які нові функції матиме GPT-5? OpenAI бачив далі і вже працює.
Джерело зображення: створено Unbounded AI
Команда OpenAI опублікувала свій останній крок вчора, сформувавши нову команду, Superalignment, яку очолювали Ілля Суцкевер (співзасновник і головний науковий співробітник OpenAI) і Ян Лейке (керівник вирівнювання). Це команда про суперінтелект, яка зосереджена на дослідженні вирівнювання суперінтелекту. OpenAI стверджує, що протягом наступних чотирьох років він витратить 20% своїх обчислювальних ресурсів на вирішення проблем суперінтелектуального вирівнювання, чого достатньо, щоб показати важливість OpenAI.
Що таке суперінтелект?
Суперінтелект відноситься до інтелектуальної системи, яка перевершує людський інтелект. Це не просто проста комп’ютерна програма, а розумне тіло, яке має характеристики когнітивних здібностей, емоційних здібностей, самосвідомості та намірів, і може самостійно мислити, судити та приймати рішення. - створення може навіть певною мірою перевершити людський інтелект. Концепція суперінтелекту пов’язана з поточною системою штучного інтелекту. Воно стосується більш досконалого штучного інтелекту, який можна застосовувати в широкому діапазоні сфер і складних середовищах.
В даний час суперінтелект все ще є теоретичною концепцією, і її ще належить усвідомити. Досягнення суперінтелекту вимагає вирішення багатьох технічних проблем, у тому числі проблем машинного навчання, обробки природної мови, комп’ютерного зору, міркування та прийняття рішень. Крім того, поява суперінтелекту також принесе багато етичних, соціальних і політичних питань, таких як контроль суперінтелекту, питання безпеки та конфіденційності.
Суперінтелект — це захоплююча та переконлива концепція, оскільки вона може створити різноманітні важливі програми в різних сферах, таких як медична діагностика, розробка нових ліків, інтелектуальне транспортування, автоматизоване виробництво та захист безпеки тощо. У той же час суперінтелект також має певні ризики та проблеми: якщо він вийде з-під контролю, він може становити величезну загрозу для людей.
Досягнення суперінтелекту вимагає вирішення багатьох технічних проблем. Одне з найважливіших питань полягає в тому, як надати інтелектуальним системам можливість самостійно навчатися, тобто постійно освоювати нові знання та навички з даних і досвіду, щоб постійно підвищувати свій рівень інтелекту. У той же час суперінтелект також повинен володіти потужними міркуваннями, здатністю приймати рішення та інноваційними здібностями, а також здатністю мислити самостійно та вирішувати різні складні проблеми.
«Коли ми наближаємося до суперінтелекту», нам потрібно більше думати про екзистенціальні ризики ШІ. — Цукерберг
Суперінтелект стане реальністю через десять років? Принаймні OpenAI так вважає
OpenAI вірить, що суперінтелект стане найефективнішою технологією з коли-небудь винайдених, яка допоможе нам вирішити багато найважливіших світових проблем. Але величезна сила суперінтелекту також може бути дуже небезпечною і може призвести до позбавлення прав і можливостей людства або навіть до його вимирання. Хоча **суперінтелект зараз може здаватися далеким, ми вважаємо, що це може бути протягом десяти років. **
###
Як вирішити ризики суперінтелекту?
Хоча суперінтелект має величезну енергію, ризики також величезні. OpenAI зазначив, що управління цими ризиками вимагатиме нових інституцій управління та вирішення проблеми координації суперінтелекту, а саме, як переконатися, що системи штучного інтелекту набагато розумніші за людей, але також слідують людським намірам?
OpenAI не дав відповіді. Вони вважають, що люди не можуть надійно контролювати системи штучного інтелекту, які розумніші за людей. Поточна технологія вирівнювання не може бути поширена на суперінтелект. Тому потрібно шукати нові науково-технічні прориви.
Проте шлях OpenAI до вирішення проблеми вирівнювання суперінтелекту був ясним, тобто створити дослідника автоматичного вирівнювання приблизно на рівні людини, щоб покращити здатність систем штучного інтелекту навчатися на відгуках людини та допомогти людям оцінити штучний інтелект. Мета полягає в тому, щоб побудувати систему штучного інтелекту, достатньо вирівняну, щоб вона могла допомогти нам вирішити всі інші проблеми вирівнювання.
Минулого року OpenAI опублікував допис у блозі, який роз’яснює напрямок досліджень вирівнювання:
Нова команда Superalignment від OpenAI
Команда складатиметься з найкращих дослідників та інженерів у сфері машинного навчання, мета яких – протягом чотирьох років вирішити основні технічні проблеми вирівнювання суперінтелекту – від розробки нових методів до масштабування та розгортання. Головний науковий співробітник OpenAI Ілля Суцкевер зробив проблему вирівнювання суперінтелекту центром дослідження. Вирівнювання суперінтелекту в основному є проблемою машинного навчання, і OpenAI набирає чудових експертів з машинного навчання.
Література:
Переглянути оригінал
This page may contain third-party content, which is provided for information purposes only (not representations/warranties) and should not be considered as an endorsement of its views by Gate, nor as financial or professional advice. See Disclaimer for details.
Останні тренди OpenAI: сформуйте нову команду, зробіть ставку на суперінтелект і перекиньте 20% обчислювальних ресурсів
Ви все ще нарікаєте на революційні зміни, спричинені генеративним ШІ? Нарікаєте на силу GPT-4? Все ще здогадуєтесь, які нові функції матиме GPT-5? OpenAI бачив далі і вже працює.
Команда OpenAI опублікувала свій останній крок вчора, сформувавши нову команду, Superalignment, яку очолювали Ілля Суцкевер (співзасновник і головний науковий співробітник OpenAI) і Ян Лейке (керівник вирівнювання). Це команда про суперінтелект, яка зосереджена на дослідженні вирівнювання суперінтелекту. OpenAI стверджує, що протягом наступних чотирьох років він витратить 20% своїх обчислювальних ресурсів на вирішення проблем суперінтелектуального вирівнювання, чого достатньо, щоб показати важливість OpenAI.
Що таке суперінтелект?
Суперінтелект відноситься до інтелектуальної системи, яка перевершує людський інтелект. Це не просто проста комп’ютерна програма, а розумне тіло, яке має характеристики когнітивних здібностей, емоційних здібностей, самосвідомості та намірів, і може самостійно мислити, судити та приймати рішення. - створення може навіть певною мірою перевершити людський інтелект. Концепція суперінтелекту пов’язана з поточною системою штучного інтелекту. Воно стосується більш досконалого штучного інтелекту, який можна застосовувати в широкому діапазоні сфер і складних середовищах.
В даний час суперінтелект все ще є теоретичною концепцією, і її ще належить усвідомити. Досягнення суперінтелекту вимагає вирішення багатьох технічних проблем, у тому числі проблем машинного навчання, обробки природної мови, комп’ютерного зору, міркування та прийняття рішень. Крім того, поява суперінтелекту також принесе багато етичних, соціальних і політичних питань, таких як контроль суперінтелекту, питання безпеки та конфіденційності.
Суперінтелект — це захоплююча та переконлива концепція, оскільки вона може створити різноманітні важливі програми в різних сферах, таких як медична діагностика, розробка нових ліків, інтелектуальне транспортування, автоматизоване виробництво та захист безпеки тощо. У той же час суперінтелект також має певні ризики та проблеми: якщо він вийде з-під контролю, він може становити величезну загрозу для людей.
Досягнення суперінтелекту вимагає вирішення багатьох технічних проблем. Одне з найважливіших питань полягає в тому, як надати інтелектуальним системам можливість самостійно навчатися, тобто постійно освоювати нові знання та навички з даних і досвіду, щоб постійно підвищувати свій рівень інтелекту. У той же час суперінтелект також повинен володіти потужними міркуваннями, здатністю приймати рішення та інноваційними здібностями, а також здатністю мислити самостійно та вирішувати різні складні проблеми.
Суперінтелект стане реальністю через десять років? Принаймні OpenAI так вважає
OpenAI вірить, що суперінтелект стане найефективнішою технологією з коли-небудь винайдених, яка допоможе нам вирішити багато найважливіших світових проблем. Але величезна сила суперінтелекту також може бути дуже небезпечною і може призвести до позбавлення прав і можливостей людства або навіть до його вимирання. Хоча **суперінтелект зараз може здаватися далеким, ми вважаємо, що це може бути протягом десяти років. **
Як вирішити ризики суперінтелекту?
Хоча суперінтелект має величезну енергію, ризики також величезні. OpenAI зазначив, що управління цими ризиками вимагатиме нових інституцій управління та вирішення проблеми координації суперінтелекту, а саме, як переконатися, що системи штучного інтелекту набагато розумніші за людей, але також слідують людським намірам?
OpenAI не дав відповіді. Вони вважають, що люди не можуть надійно контролювати системи штучного інтелекту, які розумніші за людей. Поточна технологія вирівнювання не може бути поширена на суперінтелект. Тому потрібно шукати нові науково-технічні прориви.
Проте шлях OpenAI до вирішення проблеми вирівнювання суперінтелекту був ясним, тобто створити дослідника автоматичного вирівнювання приблизно на рівні людини, щоб покращити здатність систем штучного інтелекту навчатися на відгуках людини та допомогти людям оцінити штучний інтелект. Мета полягає в тому, щоб побудувати систему штучного інтелекту, достатньо вирівняну, щоб вона могла допомогти нам вирішити всі інші проблеми вирівнювання.
Минулого року OpenAI опублікував допис у блозі, який роз’яснює напрямок досліджень вирівнювання:
Нова команда Superalignment від OpenAI
Команда складатиметься з найкращих дослідників та інженерів у сфері машинного навчання, мета яких – протягом чотирьох років вирішити основні технічні проблеми вирівнювання суперінтелекту – від розробки нових методів до масштабування та розгортання. Головний науковий співробітник OpenAI Ілля Суцкевер зробив проблему вирівнювання суперінтелекту центром дослідження. Вирівнювання суперінтелекту в основному є проблемою машинного навчання, і OpenAI набирає чудових експертів з машинного навчання. Література: