Что такое черный ящик в информатике
Черный ящик
Чёрный ящик — термин, используемый в точных науках (в частности, системотехнике, кибернетике и физике) для обозначения системы, механизм работы которой очень сложен, неизвестен или неважен в рамках данной задачи. Такие системы обычно имеют некий «вход» для ввода информации и «выход» для отображения результатов работы. Состояние выходов обычно функционально зависит от состояния входов.и.т.д
Механизм неважен
Типичным примером может служить розетка электрической сети: её можно рассматривать как источник переменного напряжения известного действующего значения (220 В) и частоты (50 Гц). Известно, что к одной розетке можно подключить любое количество потребителей. Однако под «любым количеством» подразумевается, что их общее сопротивление будет достаточно велико. Если же сопротивление мало, то приходится учитывать такие эффекты, как сопротивление проводов розетки, максимальный ток, который способны пропустить предохранители, и так далее.
Механизм известен
Цель: выделить индивидуальные, присущие только данному сигналу свойства. Свойства: способность отделять не существенные признаки, свойства, от существенных присущих только данному сигналу. Функции: определение индивидуальных признаков свойств сигналом и классификация сигналов по однородным признакам, свойствам.
Цель: разделение сигналов по признакам и распределение их в системе в соответствии с её потребностями. Свойства: способность разделять сигналы по свойствам и распределять их в системе в соответствии с заданной программой. Функции: разделение и распределение сигналов в системе.
Цель: преобразование сигналов, преобразование свойств сигналов в соответствии с заданной программой. Свойства: способность изменять имеющиеся свойства поступивших сигналов в заданные свойства. Функции: изменение свойств, качественных и количественных параметров сигналов в свойства с заданными количественными и качественными параметрами.
Цель: объединение преобразованных сигналов в новые структуры с новыми заданными свойствами. Свойства: способность устанавливать функциональные связи между отдельными сигналами, то есть формирование системы с новыми свойствами.
Цель: перемещение сигналов из точки А, в заданную точку Б, то есть от одного механизма к другому. Свойства: способность перемещать сигналы во времени и пространстве. Функции: перемещение сигналов с заданными параметрами, в заданное место системы. Перемещение может осуществляться по горизонталям, по вертикалям и диагоналям. Перемещение может осуществляться как вперед, так и назад (реверсивно)
Каждый из этих механизмов имеет весь представленный набор в своём составе.
См. также
Полезное
Смотреть что такое «Черный ящик» в других словарях:
ЧЕРНЫЙ ЯЩИК — «ЧЕРНЫЙ ЯЩИК», термин, употребляемый главным образом в системотехнике для обозначения систем, структура и внутренние процессы которых неизвестны или очень сложны; метод изучения таких систем основан на исследовании их реакций (изменений выходных… … Энциклопедический словарь
ЧЕРНЫЙ ЯЩИК — термин, употребляемый главным образом в системотехнике для обозначения систем, структура и внутренние процессы которых неизвестны или очень сложны; метод изучения таких систем основан на исследовании их реакций (изменений выходных сигналов) на… … Большой Энциклопедический словарь
ЧЕРНЫЙ ЯЩИК — ЧЕРНЫЙ ЯЩИК, устройство для автоматической записи данных во время эксплуатации самолета. Следователи анализируют эти данные после аварии или неисправной работы. Небольшой самолет обычно снабжается только речевым самописцем в кабине экипаже (РСК) … Научно-технический энциклопедический словарь
Черный ящик — С английского: Black box. Из книги (гл. 6) «Введение в кибернетику» (1956) Уильяма Эшби. Под «черным ящиком» имелась в виду система, устройство которой неизвестно, но известно, как она реагирует на внешние воздействия. Термин заимствован из… … Словарь крылатых слов и выражений
ЧЕРНЫЙ ЯЩИК — «ЧЕРНЫЙ ЯЩИК», Беларусь, БЕЛАРУСЬФИЛЬМ, 1995, ч/б, 9 мин. Новелла. Инвалид, бывший военный летчик афганец переживает подробности своего последнего полета, завершившегося катастрофой. В ролях: Анатолий Котенев (см. КОТЕНЕВ Анатолий), Олег Корчиков … Энциклопедия кино
Черный ящик — термин, употребляемый главным образом в системотехнике для обозначения систем, структура и внутренние процессы которых неизвестны или очень сложны; метод изучения таких систем основан на исследовании их реакций (изменений выходных сигналов) на… … Политология. Словарь.
Черный ящик — «Черный ящик» [blackbox] понятие кибернетики, с помощью которого пытаются справиться с трудностью изучения сложных систем. Представление системы в виде «Ч.я.» означает, что при настоящем уровне наших знаний мы не можем… … Экономико-математический словарь
черный ящик — Объект с недоступной (неизвестной) структурой. Этим объектом может быть как устройство, так и программа. Понятие черного ящика позволяет определить функции, выполняемые объектом, используя для этой цели его входы и выходы. При таком подходе на… … Справочник технического переводчика
ЧЕРНЫЙ ЯЩИК — Термин, заимствованный из физики, где он использовался для описания модели функционирования любой сложной системы, основанной на выдвижении гипотез относительно внутренних конструкций, механизмов и процедур этой системы. Основной смысл здесь… … Толковый словарь по психологии
ЧЕРНЫЙ ЯЩИК — (сленг.) маркетинговый прием, модель поведения покупателей, отражающая процесс принятия решения о покупке, где фиксируется только поведение покупателя во время самой покупки. Мотивы, критерии и установки, повлиявшие на решение, во внимание не… … Энциклопедический словарь экономики и права
Презентация по информатике на тему «Чёрный ящик» (6 класс)
Онлайн-конференция
«Современная профориентация педагогов
и родителей, перспективы рынка труда
и особенности личности подростка»
Свидетельство и скидка на обучение каждому участнику
Описание презентации по отдельным слайдам:
Игра «Чёрный ящик» Учитель: Попович Л. В.
Система и окружающая среда Воздействие среды на систему называют входами системы, а воздействие системы на среду – выходами системы. Среда Система
Система как «чёрный ящик» Очень часто человек не знает, как «внутри» устроена система, с которой он имеет дело. Человеку куда важнее знать, к каким результатам на выходе приведут определённые воздействия на входе системы. В таких случаях говорят, что система рассматривается, как «чёрный ящик».
Игра «Чёрный ящик» 16 сок 64 512 1025 129 Не могу 33 Сумма удвоенного числа и единицы
Игра «Чёрный ящик» 16 код 59 512 8 14 Не могу 7 Сумма цифр числа
Игра «Чёрный ящик» 257 бит 513 1025 512 256 Не могу 128 Результат целочисленного деления на 2
Игра «Чёрный ящик» 256 бит 513 1025 1 1 Не могу 0 Остаток от целочисленного деления на 2
Игра «Чёрный ящик» 6 бит 64 512 3 2 Не могу 1 Определение разрядности числа
Игра «Чёрный ящик» 1 бит 64 512 п ш Не могу о Выбор первой буквы слова, обозначающего разрядность числа
Игра «Чёрный ящик» 1 бит Ура! 4 урока 5 3 3 о Определение количества букв
Курс повышения квалификации
Дистанционное обучение как современный формат преподавания
Курс профессиональной переподготовки
Информатика: теория и методика преподавания в образовательной организации
Курс повышения квалификации
Современные педтехнологии в деятельности учителя
Ищем педагогов в команду «Инфоурок»
Номер материала: ДБ-774026
Не нашли то что искали?
Вам будут интересны эти курсы:
Оставьте свой комментарий
Авторизуйтесь, чтобы задавать вопросы.
Путин поручил не считать выплаты за классное руководство в средней зарплате
Время чтения: 1 минута
Россияне чаще американцев читают детям страшные и печальные книжки
Время чтения: 1 минута
Более 50 российских школ перешли на дистанционку из-за коронавируса
Время чтения: 1 минута
Учителям предлагают 1,5 миллиона рублей за переезд в Златоуст
Время чтения: 1 минута
Госдума приняла закон об использовании онлайн-ресурсов в школах
Время чтения: 2 минуты
ВПР для школьников в 2022 году пройдут весной
Время чтения: 1 минута
Подарочные сертификаты
Ответственность за разрешение любых спорных моментов, касающихся самих материалов и их содержания, берут на себя пользователи, разместившие материал на сайте. Однако администрация сайта готова оказать всяческую поддержку в решении любых вопросов, связанных с работой и содержанием сайта. Если Вы заметили, что на данном сайте незаконно используются материалы, сообщите об этом администрации сайта через форму обратной связи.
Все материалы, размещенные на сайте, созданы авторами сайта либо размещены пользователями сайта и представлены на сайте исключительно для ознакомления. Авторские права на материалы принадлежат их законным авторам. Частичное или полное копирование материалов сайта без письменного разрешения администрации сайта запрещено! Мнение администрации может не совпадать с точкой зрения авторов.
Объяснимый искусственный интеллект: понимание черного ящика
Черный квадрат — знаковая картина советского художника Казимира Малевича. Первая версия написана в 1915 году. Черный квадрат впечатляет искусствоведов и сегодня, но на своих современников не произвел впечатления и хранился в таких плохих условиях, что сильно потрескался и обветшал.
Сложные алгоритмы машинного обучения могут быть математическим произведением искусства, но если эти «алгоритмы черного ящика», которые мы не видим, не смогут произвести впечатление и завоевать доверие пользователей, они могут быть проигнорированы, как Черный квадрат Малевича. Как сделать все понятнее для юзеров — в материале под катом.
Значительный успех машинного обучения привел к всплеску в приложениях искусственного интеллекта. Достижения в машинном обучении и рост вычислительных мощностей привели к разработке интеллектуальных систем, которые применяются, чтобы рекомендовать фильм, диагностировать злокачественную опухоль, принимать инвестиционные решения или вести машину без водителя. Однако эффективность этих систем ограничена невозможностью объяснить решения и действия пользователю. Множество таких приложений, применяющих ML, работают «внутри черного ящика», предлагая небольшое, если вообще заметное, объяснение того, как они достигают результатов.
Вековая проблема
Проблема объяснения машинного обучения очень распространена, с ней сталкивалось большинство специалистов по данным. В опросе на Kaggle из 7000 специалистов по обработке данных, четыре из семи главных «барьеров, с которыми сталкиваются на работе», не технические, но связаны с «проблемами последней мили»:
Раз за разом случается, что какой-нибудь невежественный или самонадеянный член совета директоров нарушает тщательно продуманный план человека, который знает факты, просто потому, что человек с фактами не может представить их достаточно понятно, чтобы преодолеть сопротивление…. Эффективная презентация подобна собору на фундаменте данных.
Компромисс точности и объяснимости
Специалистам приходится иметь дело с компромиссом между интерпретируемостью и точностью, то есть между сложными моделями, работающими с разноплановыми данными, и менее сложными моделями, которые легче интерпретировать, но которые менее точны.
При работе с большими разноплановыми наборами данных необходимо использовать все эти переменные для построения модели и получения точных результатов. По мере использования большего числа переменных их связь с целевой переменной и взаимодействие между различными независимыми переменными делают модель все более сложной.
Нецелесообразно моделировать нелинейные зависимости с помощью линейных моделей и ожидать точных результатов
Так должны ли мы построить точную модель или пожертвовать точностью и построить интерпретируемую модель?
Есть сильные движущие факторы с обеих сторон. При больших объемах данных у безвредного приложения для принятия решений, типа рекомендательной системы фильмов, высокоточная модель черного ящика является жизнеспособным вариантом. Однако в критически важных системах для принятия инвестиционных решений или в медицинской диагностике объяснимость может быть важнее.
Нормативные требования также могут повлиять на ваше решение. Если модели банковского кредитования и мошенничества являются черными ящиками, то регуляторы не могут их рассмотреть или понять. Если такие алгоритмы не будут точно оценивать риски, то финансовая система может оказаться под угрозой, как мы видели во время финансового кризиса 2008 года. Неудивительно, что многие регулирующие органы настаивают на том, чтобы модели кредитования и риска поддавались интерпретации.
Программа XAI от DARPA
Агентство перспективных оборонных исследовательских проектов (DARPA) Министерства обороны Соединенных Штатов, ответственное за разработку новых технологий, постоянно проводит программу Explainable AI (XAI).
Программа eXplainable AI (XAI) направлена на создание набора методов машинного обучения, которые:
Разработчики системы XAI, подходы и проблемные области
Это постоянная программа, и потребуется несколько лет, чтобы ее результаты были поняты, приняты и доступны на популярных языках программирования, таких как Python и R.
Что мы имеем сейчас?
LIME (локально интерпретируемая модельно-агностическое объяснение) объясняет классификатор для конкретного единичного экземпляра и поэтому подходит для локального рассмотрения. Интуитивно понятно, что объяснение — это локальное линейное приближение поведения модели. Хотя модель может быть очень сложной в глобальном масштабе, ее легче приближать в непосредственной близости от конкретного случая.
LIME аппроксимирует локальный линейный суррогат сложной модели
SHAP (Аддитивное объяснение Шепли) — еще один метод объяснения индивидуальных прогнозов. SHAP основан на игре теоретически оптимальных значений Шепли. Техническое определение значения Шепли — это “средний предельный вклад значения характеристики во все возможные коалициям. ”
SHAP определяет предельный вклад каждой функции в достижение выходного значения, начиная с базового значения.
Другими словами, значения Шепли рассматривают все возможные прогнозы экземпляра с использованием всех возможных комбинаций входных данных. Благодаря такому исчерпывающему подходу SHAP может гарантировать согласованность и локальную точность.
LIME против SHAP
LIME создает суррогатную модель локально вокруг единицы, прогноз которой вы хотите понять. Таким образом, он по своей сути локален. Значения Шепли делают декомпозицию окончательного прогноза на вклады каждого признака. Так зачем кому-то использовать LIME? LIME работает быстро, а SHAP требуют много времени из-за их исчерпывающих вычислений.
Другие варианты
Помимо LIME и SHAP, есть и другие инструменты искусственного интеллекта для лучшего объяснения ваших моделей.
AIX360 от IBM — расширяемый набор инструментов, который предлагает исчерпывающий набор возможностей для улучшения объяснимости вашей модели. Соответствующий пакет Python AI Explainability 360 включает в себя алгоритмы, охватывающие различные метрики объяснений наряду с посредническими метриками объяснимости
What-if предоставляет инструменты для визуального исследования поведения обученных моделей с помощью минимального количества кода.
Построение доверия с заинтересованными сторонами
Проводя параллель с разработкой рецептурных лекарств, мы принимаем назначенные врачом лекарства потому, что доверяем квалификации врача и доверяем строгости клинических испытаний, которые препарат прошел до выхода на рынок. Регулирующие органы, такие как FDA, определили процессы и протоколы, чтобы обеспечить безопасность и эффективность лекарств.
Точно так, если мы следуем строгому процессу и гарантируем, что каждая модель прошла одни и те же этапы выдвижения гипотез, проверки и тестирования, то можем выстроить доверие с заинтересованными сторонами бизнеса в том, что касается эффективности моделей машинного обучения. Таким образом, модель должна приниматься и уверенно интегрироваться в бизнес как обычные процессы.
Обуздать искусственный интеллект и машинное обучение можно под чутким руководством наших менторов. А промокод HABR дает дополнительную скидку 10%, которая суммируется со скидкой на баннере.
Чёрный ящик
Чёрный я́щик — объект, внутренняя структура которого неизвестна или неважна в рамках решаемой задачи, но о функциях которого можно судить по его реакциям на внешнее воздействие.
Полное описание функций «черного ящика» называется его каноническим представлением. «Чёрные ящики», характеризуемые одинаковыми каноническими представлениями, считаются эквивалентными.
В отличие от «черного ящика» «белый ящик» — это объект, внутренняя структура которого нам полностью известна, например, какое-либо созданное нами техническое устройство или компьютерная программа.
Понятие «чёрный ящик» широко используется во многих научных дисциплинах, в первую очередь технических, при изучении и/или описании любых объектов, обладающих относительно устойчивым характером (без учёта развития или изменения самого объекта). Это обусловлено тем, что «чёрный ящик» является наглядной формой представления результата основного процесса человеческого мышления — абстрагирования, и использование «чёрного ящика» при описании объекта значительно облегчает понимание смысла.
Философский словарь / Под ред. И. Т. Фролова. — 4-е изд. — М.: Политиздат, 1981. — 445 с.
«Чёрный ящик» при описании объекта (абстрагирование).
Формулируется цель рассмотрения объекта. В соответствии с целью у объекта с известной структурой («белого ящика») выделяют главные для последующего рассмотрения свойства. Главные свойства приписываются новому, условному объекту — «чёрному ящику». Все иные свойства полностью исключаются из рассмотрения, и о самом их существовании требуется забыть (наиболее трудный момент). В результате возникает простой для понимания объект, который и рассматривается в дальнейшем (всё мешавшее пониманию главной мысли исчезло внутри чёрного ящика).
«Чёрный ящик» мы очень часто используем в обиходе (даже не подозревая об этом).
Например: — «Посмотри на эту штуку („чёрный ящик“). Если нажать вот сюда, то оттуда польётся кофе».
Если у некоторого объекта выделить одно главное свойство, то его можно описать подобно тому, как это сделано в примере с кофе — указав одну точку для воздействия и одну точку для доступа к главному свойству. Однако для корректного описания необходимо измерять величину воздействия и соответствующее изменение свойства объекта. Для измерения же требуется наличие двух точек, одна из которых является начальной точкой отсчёта (нулём). Таким образом, если объект представить в виде «чёрного ящика», для которого указаны две точки для воздействия и две точки для доступа к главному свойству, то возможно описать его реакции на внешнее воздействие и дать соответствующее описание функции (каноническое представление). В графическом виде такой объект изображается как квадрат (чёрный ящик), у которого обозначены две точки входа (слева) и две точки выхода (справа), то есть объект с четырьмя точками-полюсами. Это и есть «четырёхполюсник». Многие объекты получили своё название в соответствии с определённой подобным методом функции (усилитель, генератор и т. д.). Описания некоторых из них приведены ниже, в разделе «Функции известны».
Широко известные «чёрные ящики».
Телевизор — самый распространённый, классический пример, используемый при объяснении самого понятия «чёрный ящик» (особенно до появления ЖКИ и плазменных экранов).
Мы смотрим на телевизор снаружи и рассматриваем (на экране) только то, что нас интересует. При этом мы не видим и не задумываемся о том, что находится внутри телевизора потому, что в данный момент это неважно и нас это не интересует.
Иными словами, мы знаем реакции «чёрного ящика» (телевизора) на внешние воздействия (если умеем им пользоваться) и при этом не знаем и не рассматриваем то, что у него внутри.
«Чёрный ящик» из игры «Что, где, когда». Внутрь закрытого ящика, выкрашенного в чёрный цвет, помещён некоторый предмет. Игрокам сообщается характерное свойство этого предмета. То есть, механизм процесса мышления реализуется с помощью физических объектов. Поскольку игра носит интеллектуальный характер, то «чёрный ящик», представленный в виде реального объекта, подчёркивает методы, которыми должны владеть угадывающие игроки.
Содержание
Интересные факты
Черным ящиком часто в СМИ неправильно называют авиационый бортовой самописец. Бортовой самописец регистрирует основные параметры полета летательного аппарата и переговоры экипажа в полёте. Прибор помещен в очень прочный, герметичный корпус (защищающий при аварии). Как правило, этот корпус является шарообразным или цилиндрическим, красного или яркооранжевого цвета. Информация, содержащаяся в бортовом самописце, тщательно анализируется наземным персоналом после каждого полета, с целью определить, не были ли в полете достигнуты предельные (или запредельные) режимы. В этом случае ресурс летательного аппарата может быть пересмотрен. После летного происшествия или катастрофы информация, содержащаяся в бортовом самописце, позволяет однозначно восстановить причину (или комплекс причин) приведших к происшествию. Для этого создается комиссия по расследованию летного происшествия, носители информации из бортового самописца изымаются.
Функции известны
Фильтр
Цель: обеспечить пропуск в систему только сигналов с заданными параметрами.
Функции: допуск в систему только сигналов с заданными параметрами.
Сепаратор
Цель: выделить индивидуальные, присущие только данному сигналу свойства.
Свойства: способность отделять несущественные признаки, свойства, от существенных присущих только данному сигналу.
Функции: определение индивидуальных признаков свойств сигналом и классификация сигналов по однородным признакам и свойствам.
Дифференциал
Цель: разделение сигналов по признакам и распределение их в системе в соответствии с её потребностями.
Свойства: способность разделять сигналы по свойствам и распределять их в системе в соответствии с заданной программой.
Функции: разделение и распределение сигналов в системе.
Трансформатор
Цель: преобразование сигналов, преобразование свойств сигналов в соответствии с заданной программой.
Свойства: способность изменять имеющиеся свойства поступивших сигналов в заданные свойства.
Функции: изменение свойств, качественных и количественных параметров сигналов в свойства с заданными количественными и качественными параметрами.
Трансмиссия
Цель: перемещение сигналов из точки А, в заданную точку Б, то есть от одного механизма к другому.
Свойства: способность перемещать сигналы во времени и пространстве.
Функции: перемещение сигналов с заданными параметрами, в заданное место системы.
Перемещение может осуществляться по горизонталям, по вертикалям и диагоналям.
Перемещение может осуществляться как вперед, так и назад (реверсивно).
Каждый из этих механизмов имеет весь представленный набор в своём составе.