Сознание у искусственного интеллекта?

До недавнего времени сознание у систем искусственного интеллекта (ИИ) было лишь темой научно-фантастических романов и фильмов. Но сегодня большие языковые модели, такие, как LaMDA и ChatGPT, многим начинают казаться сознательными. И если это еще не так, специалисты обсуждают возможность, что в течение следующего десятилетия вполне могут появиться системы ИИ, обладающие сознанием. Должны ли мы отнестись к этой идее серьезно? Как можно исследовать сознательность компьютерного алгоритма? Действительно ли сознательны нынешние большие языковые модели? Могут ли будущие системы ИИ быть сознательными? И каким будет такое сознание? Какие моральные обязательства возникнут тогда у нас? И должны ли мы стремиться создавать системы ИИ, обладающие сознанием, или это очень плохая идея? В лекции мы обсудим эти вопросы.