이한수, InfoBank Partner

• 스타트업
  • 자유로움, 행복, 만족하는 삶
  • TIPS 정부 지원
  • 집중
  • Always 수익 개선
  • Like Sports (배려, 매너, 열정과 노력, 승복과 존중)

공성배, Megazone Vice P

• Ai Native
  • 실행속도
  • 비용 통제
• MIT 최근 통계
  • 95% Projects failed
• AI
  • C Level의 편향된 지식 경계
  • Culture Problem
  • 비지니스 요구사항을 확실히 아는 것이 중요
  • 고객 사례
    • RAG based Chatbot
    • BI
• Megazone, AI Ready
  • Governance
  • 변화 관리 (Culture)
  • 윤리경영 인증
  • 정형적인 방법이 아닌 고객사 Fit에 맞는 코칭 필요 (Like Golf Teaching)

지슨, 국정원

• 무선 보안
• 보안은 생존 (국정원)
• 최근 통신사 해킹
  • 최신 해킹기술 사용
• 무선 백도어 해킹
  • 실시간 모니터링 필요
  • 스파이칩 H/W (초소형 CPU, 무선통신 모듈)
    • 2 ~13Km 떨어진 곳에서 직접 교신 가능 by 해커
• Ai Poisoning
• 미래는 Physical AI
• 과거 사례
  • 2014년, USB 백도어 (Cotton Mouth, 2억 ~ 3억$ 개발비),
    • 미 NSA에서 우방국에 설치, 13Km 떨어진 거리에서 조종 가능 (1:1 교신)
    • USB에 스파이칩 포함
    • 케이블을 안테나로 사용
  • 2024년, 특전사 육군 대위 간첩사건
    • 경제적 어려움 (온라인 도박)
    • 북한이 포섭
    • 군 내부망(KJCCS)에 Poison Tab(USB) 연결 요청
• 미한일 대응 전략
  • 미국: 하드웨어 리스크 완전 제거 (자국산 장비만 사용)
  • 일본: 검증 장비 도입
  • 한국: 24시간 항시 모니터링. 이상주파수 탐지
• 무선 백도어
  • Wifi 이외 주파수 사용
  • 서버실, 데이터 센터, 생산라인 등 어디에서나 접근 가능
• 미국 911 사고 원인
  • 상상력의 부재 (충분히 가능한 위협)

서은국, 심리학

• 인간은 Rational Animal?
  • 인간은 자신의 내면적 경험에 압도된다.
  • 인간은 감정적인 것에 엄청난 영향을 받는다.
    • 예) 깨끗하게 키운 벌레를 못 먹는 이유 (역겨움)
  • 왜 감정은 동물에게만 있나?
    • 움직임에 대한 판단을 하기 위해 (생존하기 위해) - 진화 심리학
• 행복의 조건 중 제일 중요한 것
  • 풍성한 사회적 경험
• 인간의 호불호는 논리적이지 않다.
  • Love will find the reason.
  • 이유는 나중에 만들어진다.
• AI가 인간의 미묘한 감정을 이해할 수 있을까?
• AI와의 Interaction은 장기적으로 비용을 치룬다. 진짜 경험이 아니다.
  • 복잡한 문제를 만들 수 있다. 예측 불허
    • 예) GPT와 법적문제 (미국, 자살)
• 인간은 생명 유지를 위해 말도 안 될 정도록 감정적인 사회적 존재이다.'라는 말을 AI에게 해 주고 싶다.

Toss B

• 내부자 보안사고 문제 방지해야 (협력업체, 계약직 etc)
• Governance vs Management
• 개인정보 안정성 확보 (과징금: 매출의 4%)
• 가시성
  • 위험 정보자산 식별
    • 과기정통부, CISO 등록
      • 현재 약 3만개 회사
    • 사용하는 Cloud, SaaS Solution, 오픈소스도 식별해야
    • 자산관리 시스템 구축 (물리적, 가상)
• Forbes Best Banks (ISO, ISMS etc)
• 374(31), 408
  • 8.3%
  • White Hacker, 2
  • Chapter, 145
• Chapter(Horizonal), Silo(Vertical)
• 정보보호 공시
• 감사업무 매뉴얼 - 금감원 사이트 참조
• Chapter 협업
  • 계열사 Chapter Meeting 공식화 (대면)
  • CISO, Hacker (Monthly, Weekly), Leader exists

AI to AI Security, 이태훈, MGRV, CISO

• 2024
  • Mckinsey 60억$ (vs Open AI 58억$, 2005년 200억$)
    • Agents 12,000개
  • Philosophy
    • AI 흔적도 기록되어야...
    • Trust Geometry
  • 이제 사용자가 아니라 Agent가 호출한다.
    • 권한 상속이 너무 크다
    • 의도(Intent)가 남지 않는다
    • 공백 (책임, 가시성)
  • 대처법
    • Agent 사이에 얇은 Brocker 두기
      • 라우팅 및 버전 중재 etc
      • Data Firewall
    • 방어 Layer
      • 누가?
      • 적법?
      • 과다 노출 막기
        • 민감 토큰 탐지 (마스킹, 비식별, 샘플링)