워크플로우고급

AIR Blackbox

오픈소스 AI 에이전트 거버넌스 및 감사 프레임워크

기존 로깅 시스템은 세 가지 근본적 한계를 안고 있다. 첫째, 로그 저장소 쓰기 권한이 있으면 누구든 기록을 변경할 수 있어 위변조 증명이 불가능하다. 둘째, 대부분의 로깅은 응답만 캡처할 뿐 전체 프롬프트 컨텍스트, 중간 추론 과정, 도구 호출 체인을 완전히 기록하지 못한다. 셋째, EU AI Act Article 12가 요구하는 위변조 방지 로그·보존 기간·감사 접근 보장을 원시 로그만으로는 충족할 수 없다. AIR Blackbox는 이 세 가지를 4계층 아키텍처(Verify·Filter·Stabilize·Protect)로 해결한다. Verify 계층에서 HMAC 체인과 양자 내성 서명으로 위변조를 차단하고, Filter 계층에서 PII 탐지 및 프롬프트 인젝션 공격 20개 패턴을 모델 도달 전에 차단하며, Stabilize 계층에서 CI/CD 파이프라인의 규정 준수 상태 변동(drift)을 감지하고, Protect 계층에서 사람의 감독 증명(human oversight attestation)을 암호학적으로 보장한다. Arthur AI, Lakera 같은 도구가 입력 필터링 한 가지에 집중하는 반면, AIR Blackbox는 사전 정책 집행부터 사후 감사 증거 패키징까지 전체 수명주기를 다룬다.

실무 활용 시나리오를 보면, 첫째로 EU AI Act 규정 준수 감사 대비가 있다. air-blackbox comply --scan . -v 한 줄로 Python AI 프로젝트 전체에 대해 Articles 9-15 기준 51개 이상의 정적 검사를 실행하고, ISO 42001·NIST AI RMF·Colorado SB 24-205까지 4개 프레임워크 매핑 리포트를 자동 생성한다. 둘째로, air-gate의 Covenant YAML 정책으로 에이전트가 실행 가능한 행위를 사전 정의하고, 모든 행위에 Ed25519 서명 양방향 영수증(bilateral receipt)을 발행하여 다중 에이전트 위임 체인 전체를 추적할 수 있다. 셋째로, air-blackbox export 명령으로 감사 체인·스캔 결과·SHA-256 매니페스트·ML-DSA-65 서명을 자체 검증 가능한 .air-evidence ZIP 파일로 패키징하면, 감사인은 별도 설치 없이 python verify.py 한 줄로 PASS/FAIL 판정을 2초 내에 완료할 수 있다. LangChain, CrewAI, OpenAI Agents SDK, Anthropic Claude SDK, Google ADK, AutoGen, Haystack 등 7개 주요 프레임워크에 드롭인(drop-in) 신뢰 계층을 제공하므로 기존 에이전트 코드에 최소한의 변경으로 통합이 가능하다.

💻 필요한 컴퓨터 사양

🧠RAM

불필요 (CPU 전용 — 스캐너 자체는 LLM 추론 미수행). Pro/Enterprise 티어에서 Ollama 기반 파인튜닝 모델 사용 시 GPU 4GB+ 권장

💾저장공간

pip 패키지 수십 MB. 전체 플랫폼(air-platform) Docker 이미지 포함 시 ~2GB. 감사 기록은 호출량에 비례하여 증가

⚡ 설치법

4-1. Quick Start

pip install air-blackbox

# EU AI Act 갭 분석 실행
air-blackbox comply --scan . -v

4-2. 전체 플랫폼 배포 (Gateway + Episode Store + Policy Engine + Observability)

git clone https://github.com/airblackbox/air-platform.git
cd air-platform
cp .env.example .env      # OPENAI_API_KEY 등 설정
make up                   # ~8초 내 기동

4-3. Gate (사전 정책 집행) 포함 설치

pip install air-blackbox[gate]

4-4. 기본 게이트웨이 연동 (코드 변경 최소)

from openai import OpenAI

# base_url만 로컬 게이트웨이로 교체
client = OpenAI(
    base_url="http://localhost:8080/v1",
    default_headers={"X-Gateway-Key": "your-key"}
)

4-5. Kubernetes 배포

helm install air deploy/helm/air-gateway \
  --set providerURL=https://api.openai.com \
  --set vault.existingSecret=air-vault-creds

🧬 바이오 활용

🔬

EU AI Act 규정 준수 사전 감사

air-blackbox comply --scan . -v로 Python AI 프로젝트 전체를 Articles 9-15 기준 51개 항목 검사. ISO 42001, NIST AI RMF, Colorado SB 24-205 매핑 리포트 자동 생성. CI/CD에 GitHub Action(compliance-action) 연동하여 PR마다 규정 준수 상태 자동 검증.

🧬

다중 에이전트 행동 통제 및 감사 추적

air-gate Covenant YAML로 에이전트별 허용 행위·금지 행위·승인 필요 행위를 선언적으로 정의. 모든 행위에 Ed25519 서명 양방향 영수증 발행. 에이전트 간 위임 체인(delegation chain)을 gate.walk_delegation_chain()으로 전체 추적. 금융, 의료, 법률 등 고위험 AI 시스템의 책임 소재 입증에 활용.

💊

감사인 대상 자체 검증 증거 제출

air-blackbox export로 감사 체인, 스캔 결과, SHA-256 매니페스트, ML-DSA-65 서명을 .air-evidence ZIP으로 패키징. 감사인은 python verify.py만으로 PASS/FAIL 판정 완료 (별도 설치 불필요). 2027년 12월 고위험 AI 의무 적용 시한 대비 증거 누적에 적합.

FAQ

AIR Blackbox은(는) 무엇인가요?

AIR Blackbox는 AIR Blackbox Team이 2026년 2월 공개한 오픈소스 AI 에이전트 거버넌스 프레임워크로, 스스로를 "자율 AI 에이전트를 위한 블랙박스 기록장치(flight recorder)"라고 정의한다. 항공기 블랙박스가 모든 비행 데이터를 위변조 불가능하게 기록하듯, 이 도구는 LLM 호출 전체를 HMAC-SHA256 체인과 ML-DSA-65(FIPS 204, Dilithium3 계열) 양자 내성 서명으로 봉인하여 변조 시도가 즉시 탐지되는 감사 기록(audit chain)을 생성한다. 핵심 작동 방식은 기존 OpenAI·Anthropic API 호출의 base_url을 로컬 게이트웨이로 교체하는 것뿐이며, 코드 리팩토링 없이 호출당 약 0.3ms(중앙값) 오버헤드로 전체 프롬프트·응답·도구 호출을 투명하게 가로채 기록한다. 기존 로깅 시스템은 세 가지 근본적 한계를 안고 있다. 첫째, 로그 저장소 쓰기 권한이 있으면 누구든 기록을 변경할 수 있어 위변조 증명이 불가능하다. 둘째, 대부분의 로깅은 응답만 캡처할 뿐 전체 프롬프트 컨텍스트, 중간 추론 과정, 도구 호출 체인을 완전히 기록하지 못한다. 셋째, EU AI Act Article 12가 요구하는 위변조 방지 로그·보존 기간·감사 접근 보장을 원시 로그만으로는 충족할 수 없다. AIR Blackbox는 이 세 가지를 4계층 아키텍처(Verify·Filter·Stabilize·Protect)로 해결한다. Verify 계층에서 HMAC 체인과 양자 내성 서명으로 위변조를 차단하고, Filter 계층에서 PII 탐지 및 프롬프트 인젝션 공격 20개 패턴을 모델 도달 전에 차단하며, Stabilize 계층에서 CI/CD 파이프라인의 규정 준수 상태 변동(drift)을 감지하고, Protect 계층에서 사람의 감독 증명(human oversight attestation)을 암호학적으로 보장한다. Arthur AI, Lakera 같은 도구가 입력 필터링 한 가지에 집중하는 반면, AIR Blackbox는 사전 정책 집행부터 사후 감사 증거 패키징까지 전체 수명주기를 다룬다. 실무 활용 시나리오를 보면, 첫째로 EU AI Act 규정 준수 감사 대비가 있다. air-blackbox comply --scan . -v 한 줄로 Python AI 프로젝트 전체에 대해 Articles 9-15 기준 51개 이상의 정적 검사를 실행하고, ISO 42001·NIST AI RMF·Colorado SB 24-205까지 4개 프레임워크 매핑 리포트를 자동 생성한다. 둘째로, air-gate의 Covenant YAML 정책으로 에이전트가 실행 가능한 행위를 사전 정의하고, 모든 행위에 Ed25519 서명 양방향 영수증(bilateral receipt)을 발행하여 다중 에이전트 위임 체인 전체를 추적할 수 있다. 셋째로, air-blackbox export 명령으로 감사 체인·스캔 결과·SHA-256 매니페스트·ML-DSA-65 서명을 자체 검증 가능한 .air-evidence ZIP 파일로 패키징하면, 감사인은 별도 설치 없이 python verify.py 한 줄로 PASS/FAIL 판정을 2초 내에 완료할 수 있다. LangChain, CrewAI, OpenAI Agents SDK, Anthropic Claude SDK, Google ADK, AutoGen, Haystack 등 7개 주요 프레임워크에 드롭인(drop-in) 신뢰 계층을 제공하므로 기존 에이전트 코드에 최소한의 변경으로 통합이 가능하다.

AIR Blackbox은(는) 언제 사용하나요?

오픈소스 AI 에이전트 거버넌스 및 감사 프레임워크

AIR Blackbox의 바이오 연구 활용 예시는 무엇인가요?

EU AI Act 규정 준수 사전 감사: air-blackbox comply --scan . -v로 Python AI 프로젝트 전체를 Articles 9-15 기준 51개 항목 검사. ISO 42001, NIST AI RMF, Colorado SB 24-205 매핑 리포트 자동 생성. CI/CD에 GitHub Action(compliance-action) 연동하여 PR마다 규정 준수 상태 자동 검증.

📄 공식문서 🐙 GitHub

📝 업데이트 노트

아직 업데이트 노트가 없습니다.

🧪 관련 생명의 코드

관련된 생명의 코드 글이 아직 없습니다.