Когда родитель учит своего маленького ребенка взаимодействовать с миром, он обучает через ассоциации и выявление паттернов. Возьмем, к примеру, букву S. Родители показывают своему ребенку достаточно примеров буквы, и вскоре он сможет определять другие примеры в контекстах, где указания не активны: в школе, в книге, на рекламном щите.
Большая часть постоянно развивающейся технологии искусственного интеллекта (AI) была обучена аналогичным образом. Исследователи предоставляли системе корректные примеры того, что они хотели, чтобы она распознала, и, подобно маленькому ребенку, AI начал распознавать паттерны и экстраполировать такие знания на контексты, с которыми он ранее не сталкивался, формируя свою собственную «нейронную сеть» для категоризации. Тем не менее, как и у человеческого интеллекта, эксперты потеряли след тех входных данных, которые формировали принятие решений AI.
Таким образом возникает проблема «черного ящика» AI, заключающаяся в том, что мы не полностью понимаем, как или почему система AI принимает связи, а также переменные, которые влияют на ее решения. Эта проблема особенно актуальна при стремлении улучшить надежность и безопасность систем и установить управление внедрением AI.
От автомобиля, оснащенного AI, который не успевает затормозить и причиняет вред пешеходам, до медицинских технологий на основе AI, которые помогают врачам в диагностике пациентов и предвзятостей, проявляемых процессами отбора AI, сложность этих систем привела к возникновению новой области исследований: физики AI, которая стремится дополнительно установить AI как инструменты для людей, чтобы достичь более глубокого понимания.
Теперь новая независимая группа исследователей займется этими проблемами, объединив области физики, психологии, философии и нейробиологии в междисциплинарном исследовании тайн AI.
NTT предлагает доверие и безопасность AI
Новая группа Физики Искусственного Интеллекта, которая была анонсирована на неделе, является производной от Лаборатории Физики и Информатики (PHI) NTT Research и была представлена на конференции NTT Upgrade 2025 в Сан-Франциско, штат Калифорния. Она продолжит развивать подход физики Искусственного Интеллекта, который команда исследует уже последние пять лет.
Доктор Хиденори Танака, имеющий степень PhD по прикладной физике и компьютерным наукам из Гарвардского университета, возглавит новую исследовательскую группу, опираясь на свой предыдущий опыт в группе интеллектуальных систем NTT и программе AI Research CBS-NTT в области физики интеллекта в Гарварде.
«Как физик, я взволнован темой интеллекта, потому что, математически, как можно осмыслить концепцию креативности? Как вообще можно рассуждать о доброте? Эти концепции остались бы абстрактными, если бы не AI. Легко спекулировать, говоря: «это мое определение доброты», что не имеет математического смысла, но сейчас с AI это практически важно, потому что если мы хотим сделать AI добрым, нам надо объяснить ему на языке математики, что такое доброта», — сказал мне доктор Танака на прошлой неделе в кулуарах конференции Upgrade.
С ранних этапов своего исследования лаборатория PHI признала важность понимания природы «черного ящика» AI и машинного обучения для разработки новых систем с улучшенной энергоэффективностью вычислений. Однако продвижение AI за последние полпятилетия вызвало все более важные соображения по безопасности и надежности, которые стали критически важными для отраслевых приложений и решений по управлению внедрением AI.
Через новую исследовательскую группу NTT Research будет рассмотрено сходство между биологическим и искусственным интеллектом, что позволит разгадывать сложности механизмов AI и строить более гармоничное сотрудничество человека и AI.
Хотя этот подход novel в интеграции AI, он не новый. Физики веками стремились выявить точные детали технологических и человеческих взаимосвязей, от исследований Галилео Галилея о том, как движутся объекты, и его вклада в механику, до того, как паровая машина обогатила понимание термодинамики во время промышленной революции. Однако в 21 веке ученые стремятся понять, как работает AI с точки зрения его обучения, накопления знаний и принятия решений, чтобы в будущем можно было разрабатывать более согласованные, безопасные и надежные технологии AI.
«AI — это нейронная сеть; его структура очень похожа на то, как функционирует человеческий мозг; нейроны соединены синапсами, которые все представлены числами внутри компьютера. И тогда, мы считаем, что здесь может быть физика… Физика заключается в том, чтобы брать что угодно из вселенной, формулировать математические гипотезы о их внутреннем устройстве и проверять их», — сказал доктор Танака.
Новая группа продолжит сотрудничество с Центром науки о мозге Гарвардского университета (CBS) и планирует сотрудничество с доцентом Стэнфордского университета Суя Гангули, с которым доктор Танака совместно написал несколько статей.
Однако доктор Танака подчеркивает, что подход в области естественных наук и межотраслевой сотрудничества будет основополагающим. В 2017 году, когда он был аспирантом в Гарварде, исследователь осознал, что хочет делать больше, чем традиционная физика, и следовать по стопам своих предшественников, от Галилея до Ньютона и Эйнштейна, чтобы открыть новые концептуальные миры в физике.
«В настоящее время AI — это та тема, о которой я могу говорить со всеми. Как исследователь, это прекрасно, потому что все всегда готовы говорить об AI, и я также учусь из каждого разговора, так как понимаю, как люди по-разному видят и используют AI, даже за пределами академических контекстов. Я вижу миссию NTT как катализатор для запуска этих разговоров, независимо от происхождения людей, потому что мы учимся из каждой встречи», — заключил доктор Танака.
Запись NTT Research запускает новую группу по физике искусственного интеллекта в Гарварде появилась впервые на Unite.AI.
