Кто отвечает за действия машин с ИИ? Татьяна Черниговская

«Хорошо, робот-пылесос, робот-кухарка. А если создать машины, у которых будет совсем другое сознание, иная категоризация? Речь не о копиях, речь о том, чтобы СОЗДАТЬ МАШИНЫ, КОТОРЫЕ ДЕЛАЮТ ИНЫЕ ХОДЫ».
Татьяна Черниговская рассуждает: «Если происходит авария с беспилотником, кто несёт ответственность? Если искусственный интеллект (ИИ) достигнет такого уровня развития, что у него появится самосознание, то он станет субъектом права. Если ИИ станет личностью, то его уничтожение будет считаться убийством».

Татьяна Владимировна Черниговская — директор Института когнитивных исследований; исполняющая обязанности заведующей кафедрой проблем конвергенции естественных и гуманитарных наук, доктор биологических наук, академик Российской академии образования, член совета программы «Когнитивные исследования».

Кто отвечает за действия машин с ИИ? Татьяна Черниговская.
Культурный форум. Санкт-Петербург, 14-16 ноября 2019 г.

ТАЙМ-КОДЫ:
00:23 Ответственность за искусственный интеллект
• Вопрос о том, кто отвечает за действия машин с искусственным интеллектом. 
• Важно учитывать не только правила дорожного движения, но и этические нормы. 
• Если ИИ достигнет стадии самосознания, он станет субъектом права, а не объектом. 
01:41 Проблемы юриспруденции и ИИ
• Юриспруденция не знает, что делать с ИИ, который становится личностью. 
• Пример с базой данных мозгов преступников и презумпцией невиновности. 
• ИИ нельзя стереть или уничтожить, как флешку. 
03:11 Новый тип цивилизации
• Мы попали в новый тип цивилизации, требующий новых правил жизни. 
• Вопрос о месте человека в мире и правах животных. 
• Пример с законом о китообразных в Индии. 
04:08 Ключевые компетенции для детей
• Вопрос о том, чему учить детей: искусству или программированию. 
• Прекращение состязания с компьютерами в решении задач. 
• Важно, чтобы дети не боялись ошибок и меняющегося мира. 
06:26 Мягкие знания и аналоговые процедуры
• Дети должны быть открыты к мягким знаниям и аналоговым процедурам. 
• Пример с экспертами, которые оценивают искусство на основе интуиции. 
• В голове человека есть не только алгоритмы, но и аналоговые процедуры.