Дыхание Сингулярности

[combinator30]

У группы учёных, работающих с компьютером Blue Brain, после успешого эксперимента с моделированием одной колонки нейрокортекса крысы, содержащей около 10.000 нейронов, наблюдается прилив энтузиазма. В течении ближайших двух лет они собираются построить модель всего мозга крысы, и испытать её на специально для этого построенном в Японии роботе, а лет через 10, если им будет доступен один из лучших на тот момент суперкомпьютеров, не прочь замахнуться и на самое святое - мозг человека. "If we build this brain right, it will do everything," Markram says. I ask him if that includes selfconsciousness: Is it really possible to put a ghost into a machine? "When I say everything, I mean everything" he says, and a mischievous smile spreads across his face.

Comments

[combinator30.livejournal.com]

Тут проблема не в методиках, а в том, что сами азимовские законы робототехники внутренне противоречивы, и потому на практике нереализуемы (или, скажем мягче, неалгоритмезуемы). И в этом смысле неважно, на какой основе идёт "программирование", на языках высокого уровня, на обучении нейросетей, или на чём либо ещё. У человека ведь в голове тоже нет никаких чётких законов и правил поведения, а есть набор желаний, нравственых и другие ограничителей, система внутренней самооценки последствий предпологаемых поступков и т.д. Всё это вместе и формирует поведение.
Другими словами, можно попытаться настроить мозги робота таким образом, что бы его поведение примерно соответствовало хотя бы духу азимовских законов, но точно предсказать его поступки в той или иной неоднозначной ситуации будет всё равно принципиально невозможно. Впрочем, то же самое относится и к человеку. :)