Сегодня:
USD 66.8757    CNY 97.1875    EUR 76.1848    JPY 60.4062
Последние новости
Жители Свердловской области намерены выйти на несанкционированный митинг из-за...
Наша электролаборатория обладает современным оборудованием, тех. возможностями,...
В мюнхенской "Баварии" полностью исключили уход из клуба своего ведущего...
Строительство газопровода Фото: gazprom.com Молдавское правительство не...
Теперь Киев может сделать попытку. Но не сделает, потому что понимает, что...
Технологический прорыв последних десятков лет подарили обществу множество...
Сергей Собянин обещает заметно расширить метро Москвы и увеличить протяжённость...
Мужская измена нередкое явление в отношениях. По мнению психологов, чем раньше...
В России могут запретить комментировать работу футбольных судей, сообщает ТАСС....
Бывший полузащитник "Ювентуса" Клаудио Маркизио определился с новым клубом,...
Новый сериал «Властелин колец» планируется снимать на территории Новой...
Куала-Лумпур рассчитывает, что Пекин с пониманием отнесется к долговым...
В России вступили в силу единые цены на водку любой крепости. Начиная с 20...
Загрузка...

Последние комментарии
Хранитель
ГРЯНЕТ ГРОМ!!! "Свободы сеятель пустынный, Я вышел рано, до звезды; Рукою чистой и безвинной В порабощенные бразды...
4 августа 2018 13:39
MariSha
Авиабилеты с кэшбеком покупать еще не доводилось. Конечно, очень удобно, особенно если вылет спланирован заранее,...
3 августа 2018 12:51
Хранитель
ОТКРОЙТЕ ВСАДНИКУ НА БЕЛОМ КОНЕ!!!Братья и Сёстры!В ночь с 27 на 28 июля, во время лунного затмения, была снята —...
1 августа 2018 08:25
Хранитель
ОТКРОЙТЕ ВСАДНИКУ НА БЕЛОМ КОНЕ!!! Братья и Сёстры! В ночь с 27 на 28 июля, во время лунного затмения, была снята -...
28 июля 2018 19:01

Создана технология для предотвращения восстания машин

Команда ученых-разработчиков закончила создание специальной технологии, не дающей роботам под управлением искусственного интеллекта (ИИ) выходить из-под человеческого контроля.

Так, группа ученых из Федеральной Политехнической школы Лозанны (EPFL, Швейцария) разработала новый способ прерывания работы ИИ так, чтобы тот не пытался его обойти.


Ранее дилемма состояла в том, что в базовые алгоритмы обучения любого ИИ внесена задача «поиска способов обойти препятствия» — это ключевая функция в обучении, и избавиться от нее нельзя.

Суть в том, что вмешательство человека для корректировки кода, или чистки памяти ИИ от вредоносной информации, сама программа считает помехой, и хотя сейчас машины не могут «запереть» вход в свой код окончательно, именно это может сыграть зловещую роль в будущем.

Это интересно: Тысяча долларов за полдня: курс Bitcoin уже перевалил за $13 тысяч

На данный момент есть множество методик по обучению ИИ, но все они несовершенны, тем более, если робот в процессе обучения наблюдает или содействует с людьми.

Например, регулярны случаи, когда чат-боты, призванные обучаться у людей, начинают выдавать человеконенавистнические фразы. Понятно, что такие вещи нужно чистить из памяти ИИ, и искать, в чем была ошибка при составлении кода.

Беда в том, что ранее это прерывало процесс обучения и вызывало «недовольство» ИИ, стимулируя его начинать новое обучение с попыток обхода старого способа проникновения в свой код. Новый же алгоритм разработан таким образом, чтобы ИИ считал его не как помеху, которую необходимо преодолеть в процессе обучения, а как часть самого обучения, предоставляя человеку свободный доступ к памяти для очистки той от нежелательной или вредоносной информации.+

Такая разработка обещает уменьшить время на обучения контактирующих с людьми или информационным полем роботов, что приближает нас на еще один шаг к глобальной роботизации все большего количества отраслей.

Это интересно: Украина на 11-ом месте в Европе по количеству блокчейн проектов

enki.ua

Категория: Блоги
Источник: newsyou

Читайте также:
07 мар 2017, 17:40   
В этот весенний день лучшие праздничные пожелания звучат в адрес любимых женщин. Короткие красивые стихи с 8 Марта посвящаются маме, сестре,...
Загрузка...
Автор: Денис Зайцев       07 дек 2017, 14:47 
Комментарии