Илон Маск свидетельствует, что ИИ может положить конец человечеству во время судебного конфликта OpenAI

Элон Маск во вторник заявил присяжным, что искусственный интеллект может стать настолько опасным, что уничтожит человечество, и это предупреждение стало самой громкой частью его первых показаний в суде против генерального директора OpenAI Сэма Альтмана.

Элон сказал, что OpenAI не создавалась для гонки за крупными раундами финансирования, обслуживания крупных технологических партнеров или снятия ограничений на прибыль. Он сообщил суду, что целью было держать мощный ИИ под общественно ориентированной структурой, вдали от компаний, которые могут ставить деньги выше человеческой безопасности.

Процесс начался после завершения отбора присяжных в понедельник. Адвокаты Элона и Сэма выступили с вступительными заявлениями во вторник, затем Элон дал показания. Оба мужчины находились в зале суда в начале, но Сэм ушел до начала свидетельских показаний Элона.

Ожидается, что дело продлится четыре недели. В список свидетелей могут войти генеральный директор Microsoft (MSFT) Сатья Наделла, исследователи ИИ, а также нынешние и бывшие члены совета директоров OpenAI. Элон является генеральным директором xAI, Tesla (TSLA) и SpaceX. Сэм управляет OpenAI.

Элон говорит суду, что Сэм нарушил план некоммерческой организации, лежащий в основе OpenAI

Элон сказал: «Я придумал идею, название, набрал ключевых людей, обеспечил финансирование. Я мог бы начать как коммерческую компанию, и я выбрал не делать этого.»

Элон отметил, что ранние переговоры с Сэмом касались превращения OpenAI в благотворительную организацию. План, по его словам, заключался в том, что лишние деньги оставались внутри группы в виде резервов. Он заявил, что организация должна оставаться независимой 501©( налогово-освобожденной организацией. Он также указал на учредительные документы, в которых говорилось: «ни один человек не должен получать выгоду от этой благотворительности.»

Затем Элон подчеркнул это прямо и жестко. «Если вынесут вердикт, что грабить благотворительную организацию допустимо, благотворительные пожертвования в Америке будут уничтожены», — сказал он. Юридическая команда OpenAI сразу же возразила.

OpenAI утверждает, что Элон хотел контролировать компанию, в то время как Билл Савитт критикует его заявления о безопасности

Сторона Сэма утверждает, что Элон не выплатил обещанные )миллиардов. Его адвокаты также заявляют, что Элон ушел, когда Сэм, Грег Брокман и Илья Сутскевер не позволили ему контролировать компанию или объединить ее с Tesla $1 TSLA(.

Их встречный иск говорит, что ChatGPT привлек глобальное внимание к OpenAI после запуска в 2022 году. В иске говорится: «ChatGPT привлек новое освещение для OpenAI.» Также говорится: «Маск к этому не имел отношения.»

Адвокат OpenAI Билл Савитт использовал свое вступительное слово, чтобы жестко критиковать Элона. Билл заявил, что Элон использовал обещание )миллиардов, чтобы оказывать давление на команду основателей. Он сказал присяжным: «Мы здесь потому, что господин Маск не получил желаемого в OpenAI.» Билл также добавил: «Маск никогда не заботился о том, чтобы OpenAI была некоммерческой организацией. … Он никогда не заботился о безопасности ИИ.» Затем он отметил: «Что его действительно интересовало — это чтобы Элон Маск был на вершине.»

Элон ответил, что основатели обсуждали создание коммерческого подразделения. Но он сказал, что любая прибыль должна служить некоммерческой организации, а не контролировать ее. Его слова были: «Мы обсуждали, придумывали разные способы финансирования благотворительности. Мы говорили о создании коммерческой компании или о том, чтобы Tesla предоставляла финансирование. Пока хвост не начал вилять собакой, в основном.»

Элон утверждает, что OpenAI получил выгоду от его денег, идей, рекрутинга и сети. Он требует около $1 миллиарда в качестве компенсации от OpenAI и Microsoft $134 MSFT(, которая является одним из главных инвесторов OpenAI и соответственно соответчиком по делу.

Он также критикует новую структуру OpenAI. В октябре компания завершила реорганизацию. Ее коммерческое подразделение по-прежнему контролируется некоммерческим фондом, но компания сняла лимит прибыли. Позже она привлекла )миллиардов в последнем раунде финансирования.

Иск Элона утверждает, что это изменение «требует лжи донорам, членам, рынкам, регуляторам и общественности.»

Затем Элон сравнил плохо управляемый ИИ с Терминатором и заявил, что более безопасное будущее должно больше напоминать Star Trek. Его идея заключалась в том, что OpenAI создавалась как противовес жадным до прибыли технологическим гигантам, а не как еще одна компания, гоняющаяся за деньгами и контролем.

Элон также вспомнил разговор 2015 года с соучредителем Google Ларри Пейджем, который, по его словам, назвал его «специесистом», потому что Элон поставил выживание человека выше развития цифрового интеллекта. Элон собирается вернуться к свиданию в среду.

Если вы читаете это, вы уже на шаг впереди. Оставайтесь с нашим информационным бюллетенем.