Ученые перестали понимать принципы мышления искусственного интеллекта

11.12.2017 16:50  26284   Анна Заморникова  Новость

Искусственный разум перестали понимать ученые

На мировой конференции по нейросетям ученые признались, что больше не понимают, чем руководствуется искусственный интеллект при принятии решений. Специалист по ИИ компании Uber сказал, что нужно предпринимать какие-то действия уже сегодня, если мы не хотим, чтобы система машинного интеллекта стала слишком сложной. Чтобы принять то, что предлагает ИИ, человек должен понимать, как компьютер пришел к такому выводу, а сегодня эта область уже начинает выходить из-под контроля. 

Эксперты из НАСА полностью поддержали коллегу и дополнили его опасения. Они сообщили, что на разработку и оборудование марсоходов тратятся миллионы долларов, и если аппарат прибудет на Красную планету и что-то пойдет не так, возможности починить его не будет, а значит, и деньги, и силы, и время будут потрачены впустую.

Получается, что способность ИИ к самообучению, которой еще недавно все восхищались, стала угрозой для человека. Машины научились мыслить абстрактно и принимать необъяснимые решения.

Свое предложение внесли специалисты в области ИИ из компании Google. Они сообщили, что отследили процесс действия нейросети и пришли к выводу, что нейроны, которые способствуют принятию «неверных» решений, можно отключить. Однако практического подкрепления эти предположения пока не имеют.