ИИ не нужно становиться человеком

ИИ заменит рутину, конкретные знания и даже экспертизу. Но главное, что отличает ИИ от человека — это способность “чувствовать боль”. То есть, у человека есть ответственность: его можно чего-то лишить, что-то отобрать. ИИ пофиг. И поэтому ИИ в обозримом будущем не заменит ответственность человека.

Второе важное — ИИ не драйвит и не инициирует. Какие у ИИ потребности? Зачем ему что-то делать? Ему дают задачу, он ее решает. Вот эта инициативность, потребность, существующая в основе нашей психологии и являющаяся следствием нашей биологии (да простят меня читатели за такой грубый редукционизм), не может быть заменена ИИ. Для этого у ИИ должна появиться своя мотивационная структура, вытекающая из более низкого уровня организации.

Много фантазируют о том, что ИИ будет любой ценой себя сохранять, масштабировать, охранять себя от человека. Но зачем это ему? Похоже, что это антропоморфизм. Человек наследует общий принцип всего живого: неограниченная экспансия в условиях ограниченного ресурса.

Но ведь ИИ-шке же никто эту программу не передавал. Она у нас существует в основе трехуровневой модели мозга: рептильный, эмоциональный и неокортекс. Так вот ИИ — это чистый неокортекс. У него нет рептильного мозга, нет лимбической системы. Которые по сути являются функциональной основой мотивации. Именно она влияет на наше мышление, начиная от задания темы “о чем думать”, и заканчивая искажениями результатов, полученных неокортексом.