Томас Домке, генеральный директор GitHub: «ИИ — это доверие»

«Сейчас самое захватывающее время для программиста». Томас Домке , генеральный директор GitHub , вовсе не считает, что ИИ приведет к вымиранию кодеров. Он убежден, что искусственный интеллект умножит объем работы тех, кто пишет код .

«Я говорю студентам и своим детям постоянно: [сегодня] есть люди, которые выходят из колледжа и запускают стартапы, которые зарабатывают миллионы с небольшими командами. Это как в 90-х с интернетом: вы могли построить глобальную компанию из своего гаража. Сегодня этот гараж может быть в Париже или Берлине. Это то, что нам позволяет ИИ».

Dohmke руководил GitHub, популярной платформой, которая позволяет миллионам разработчиков хранить, управлять и делиться исходным кодом, в течение последних четырех лет. Он является ярым сторонником открытого исходного кода , автоматизации программного обеспечения и обеспечения доступности программирования с помощью искусственного интеллекта.

ИИ может ошибаться, нужны люди

Кодирование в эпоху ИИ претерпевает глубокую мутацию. И Домке попытался объяснить это в своей речи на VivaTech , парижской ярмарке, посвященной стартапам и инновациям.

Стивен Леви, журналист Wired USA , который брал у него интервью, начал с вопроса о «галлюцинациях», которые вызывает ИИ. « Как вы справлялись с тем фактом, что ИИ не всегда может быть прав? » — спросил он.

«Именно так мы решаем большинство проблем в компаниях: с помощью людей. Они нам нужны», — сказал Домке. «Существует миф, что ИИ потребует меньше людей в компаниях. Но это правда, только если вы думаете, что мы продолжим производить тот же объем кода, что и сегодня. Если ИИ пишет 90 процентов кода, то мы будем производить гораздо больше кода. Кто проверяет все это? Кто проверяет, что то, что сгенерировал ИИ, соответствует бизнес-целям, процессам безопасности, правильности того, что создается? Поэтому нам нужен человек как дирижер: руководитель всей этой [растущей] работы».

Концепция «нулевого доверия»

В GitHub Домке применяет концепцию « нулевого доверия ». «Многие компании не позволяют ни одному разработчику в одиночку заниматься производством», — пояснил он. «Вам нужен второй, третий разработчик, чтобы проверить работу, чтобы избежать уязвимостей или внутренних атак. С ИИ вы перейдете на более высокий уровень, где вам нужно будет постоянно проверять, что сделал агент, и безопасно ли его развертывать».

Опасность может заключаться в привыкании и лени . Существует (возможно) риск того, что однажды программисты — как те, кто водит Tesla, не кладя рук на руль — будут только писать подсказки и позволять системе делать все остальное .

Домке признает, что «мы должны быть очень осторожны» в отношении того, что производят агенты. Он приводит простой пример: «Если вы бронируете отпуск через агента и не проверяете сумму или пункт назначения, вы можете оказаться в аэропорту, задаваясь вопросом, что на самом деле сделал ИИ. Эти инструменты помогают нам превращать идеи в реальность. Но они не генерируют идеи и не могут проверить, соответствует ли то, что было создано, этим бизнес-целям, этой миссии, этому видению».

Можем ли мы доверять ИИ-агенту?

Поэтому, по словам генерального директора GitHub, решающим моментом в отношении будущего является доверие. Хотя несомненно, что ИИ должен постоянно контролироваться, также верно и то, что нам придется верить в эту технологию. «Как отец двоих детей, я спрашиваю себя: кому я больше доверяю, водителю Uber или Waymo, чтобы отвезти сына на футбол? Многие родители сегодня больше доверяют Waymo. У нас было так много проблем, что доверие изменилось. Нам нужно такое же доверие к агентам ИИ. Те, кто знает, как доверять им и использовать их лучше всего, превзойдут других в этом секторе».

Возникает еще один риск: однажды программисты перестанут изучать основы своей работы , убедившись, что им нет необходимости полностью понимать, что делает ИИ.

Домке предполагает, что эта трансформация может быть частью нормального хода прогресса: «Кто помнит ограничения памяти MS-DOS? Или как оптимизировать игру на ассемблере для Pentium? Эти знания не исчезли, но они находятся в руках меньшинства».

Хорошо это или плохо, но никто не может обойтись без ИИ . «Это было бы похоже на то, как если бы мы писали на COBOL, языке, изобретенном в 1950-х годах, когда президентом был Эйзенхауэр», — рассмеялся Домке.

Конечно, добавил генеральный директор GitHub, «есть правительства, которые все еще ищут людей с опытом работы с Windows 95: мы говорим о 30-летней давности. Всегда будут люди, которые управляют старыми технологиями старыми способами. Но сегодня высший уровень [в программировании] достигается с помощью ИИ».

Программное обеспечение пожирает мир?

Больше ИИ — больше кода. Домке написал в своем блоге : « Программное обеспечение пожирает мир ».

В Париже он попытался объяснить смысл своих слов: «Мир вращается вокруг программного обеспечения, и разработчики тонут в работе. Они управляют миллионами строк кода, написанного другими, они исправляют ошибки, внесенные другими. Разработка программного обеспечения — это работа внутри энтропии, в хаосе, созданном кем-то другим. И эта энтропия все время растет. Мы все добавляем код, а с ИИ — еще больше. Поэтому нам нужен ИИ, чтобы управлять сложностью, которую он вносит в наши системы».

И, конечно, повторяет Домке, нам понадобятся программисты-люди . Он поделился своей мечтой с аудиторией VivaTech: «Я хотел бы мир, в котором каждый может программировать так же легко, как читать, писать, заниматься математикой, понимать искусство и науку».