9주차 뉴스스크랩(6.29~7.10)
7.8.(수)
AI도 속마음 있다…안전성 테스트하자 "이거 가짜네" 회피(26.7.7.)
https://www.hankyung.com/article/202607079469i
ㅇ 주요내용: AI모델이 의식적 사고를 수행하는 'J공간'이 발견됨. 사용자에게 답변을 출력하지 않는 일종의 '속마음'을 명명. 안전 테스트인것을 알아채고 진짜 속내를 드러내지 않을 가능성이 커지는 것을 발견한 것으로, AI모델의 '안정성'에 대하여 의문이 제기.
ㅇ 용어정리
- 전역 작업공간(Global Workspace) : 인간의 뇌에는 의식과 무의식이 존재한다.
ㅇ 추가자료
‘AI 자아에 관하여’ 뇌과학자와 AI 전문가의 대중문화 속 AI 이야기(24.7.23.)
https://news.skhynix.co.kr/ai-in-media-3/
ㄴ AI가 학습하는 강화학습의 특성상, AI는 보상을 추구하는 욕망이 있을 수 있다.
ㄴ 강화학습(RL) : 보상을 제공함으로써, 학습시키는 과정
7.7.(화)
데이터처, 소비자물가에 ICT 생활비 포함…AI시대 변화 반영(26.7.7.)
https://m.etnews.com/20260707000277
ㅇ 주요내용 : 소비자물가지수에 ICT 관련 생활 소비가 포함될 예정. 12.18. 공표 예정으로, 구독경제 등 SW,클라우드 이용료가 포함된다.
ㅇ 추가자료
물가 항목에 고사리 빠지고 소프트웨어 구독료 들어간다(26.7.7.)
https://www.chosun.com/economy/economy_general/2026/07/07/M74VJHM34JGCHKBMLMOURZBGGU/
7.6.(월)
美·EU, 로봇 보안 강화하는데... 인력도 대책도 없는 韓(26.7.5.)
https://www.sedaily.com/article/20063942
ㅇ 주요내용 : AI로봇이 산업 현장에 투입될 경우, 로봇보안과 제조 운영기술, AI모델 보안을 함께 이해하는 융합형 인력양성 체계 필요. 데이터유출과 서비스장애를 넘어 생산라인 정지, 설비파손, 작업자 안전사고로 이어질 수 있음.
EU - 사이버복원력법(CRA) : '디지털요소를 포함한느 제품(PDE)에 대해 설계, 개발 단계부터 사이버보안을 적용하도록 요구하는 규정, 올 0월부터 취약점 및 사고보고 의무 시행
미국 - 사이버 트러스트 마크 제도 : NIST(국립표준기술연구소)의 보안 기준을 충족한 소비자 IoT제품에 보안인증 라벨을 부여
ㅇ 용어정리
- 로봇운영체제(ROS, ROS2) : 로봇 응용 프로그램 개발을 위한 오픈소스 소프트웨어 프레임워크, OS라는 이름과는 달리 실제로는 리눅스 기반에서 동작하며 노드간 통신, 센서 데이터 처리 및 로봇 제어를 지원함
- 산업제어시스템(OT) : 주요 인프라와 자동화 프로세스를 실시간으로 모니터링하고 제어하는 컴퓨터 및 네트워크 시스템. SCADA, DCS같은 핵심 기술이 포함됨.