AI TrustOps는 인공지능(AI) 서비스를 개발하는 과정에서 활용할 수 있는 인공지능 신뢰성 자가 검증 도구입니다. 자가 진단을 위한 검증항목과 그 결과를 개선할 수 있는 기술요소를 제공함으로써 신뢰할 수 있는 서비스를 구축할 수 있도록 지원합니다.
NEWS
[정책자료] 전국민 인공지능 일상화 실행계획
□ 추진배경:
- 새정부 출범 이후 ‘뉴욕구상(’22.9)’, ‘대한민국 디지털 전략(’22.9)’을 통해 국민과 함께 세계의 모범이 되는 디지털 강국 실현 추진
* ‘파리 이니셔티브(’23.6)’를 통해 새로운 디지털 질서・규범 정립 본격화
- 국민 누구나 일상 속에서 AI 혜택을 누릴 수 있도록 하고, 이를 대규모 AI 수요 창출로 연결하여 AI 산업 육성 추
[정책자료] 초거대AI 경쟁력 강화 방안 발표
◆ 민간의 초거대 AI 개발·고도화 지원
민간의 초거대 AI 개발·고도화를 지원하는 기술·산업 인프라를 확충한다.
이를 위해 산업계 수요를 기반으로 분야별 특화 학습용 데이터와 비영어권 시장 공략을 위한 동남아·중동 등 언어 데이터를 2027년까지 200종(책 15만권 분량) 구축한다.
또한 초거대 AI 한국어 성능 향상을 위해 고품질 말뭉치와 한
[정책자료] 「신뢰할 수 있는 인공지능 실현전략」발표
과학기술정보통신부는 「신뢰할 수 있는 인공지능 실현전략」을 5.13(목) 발표하였다.
- 이번 전략은 “누구나 신뢰할 수 있는 인공지능, 모두가 누릴 수 있는 인공지능 구현”을 비전으로 하여, 기술·제도·윤리 측면의 3대 전략과 10대 실행과제를 통해 ‘25년까지 단계적으로 추진 계획.
- 동 전략은 2020년 발표한 「인공지능 윤리기준」(’20.12.)의 실천
생성형 AI 레드팀 챌린지 개최, AI 위험 발굴·대응 체계 구축
ㅁ 과학기술정보통신부와 한국정보통신기술협회(TTA)가 '생성형 인공지능(AI) 레드팀 챌린지(이하 레드팀 챌린지)'를 4월 11일~12일 이틀간 서울 삼성동 코엑스에서 개최
ㅁ 대규모 참가자가 챌린지에 참여해 국내 AI 기업의 거대언어모델(LLM)을 집중 점검할 수 있는 장을 마련하는 게 이번 행사의 목적
ㅁ '레드팀 챌린지' 결과를 분석해 생성형 AI 분야의 공통·
인공지능 신뢰성 기반조성 사업 홍보 자료 (리플렛 5종)
한국정보통신기술협회(TTA)에서 진행 중인 인공지능 신뢰성 기반조성 사업 홍보 자료 (리플렛 5종) 배포
TTA, 글로벌 전기전자공학자 표준협회와(IEEE) AI 신뢰성 검증 협력
ㅁ 한국정보통신기술협회(TTA)는 전기전자공학자 표준협회(IEEE SA)와 인공지능 신뢰성 검증 협력 양해각서 및 표준 준용 협약을 체결
ㅁ 전날 체결한 양해각서와 표준 준용협약은 인공지능, 메타버스, 양자통신과 같은 주목받고 있는 ICT 기술 분야에서의 협력을 목표
ㅁ 양해각서는 인공지능 안정성을 위한 신뢰성을 확보하고 윤리와 관련된 인증제도 상호협력에
인공지능(AI) 워터마크 기술 동향 보고서 발간
한국정보통신기술협회(TTA)는 인공지능 생성물*의 안전한 생성과 활용을 지원하기 위해 과학기술정보통신부와 협력하여 '인공지능(AI) 워터마크 기술 동향 보고서(이하 보고서)'를 발간하였습니다.
해당 보고서는 생성 인공지능 서비스 개발자와 실제 해당 콘텐츠를 활용하는 사용자가 안전하게 생성 및 사용할 수 있도록, 인공지능 생성물에 삽입할 수 있는 워터마
TTA MONTHLY REPORT - 인공지능 신뢰성 동향(1월호)
지난 12월의 인공지능 신뢰성 관련 정책, 연구, 산업, 사고 등의 주요 내용을 담아 1월호로 발간하였습니다.
Monthly Insight
◉ AI 안전에 관한 글로벌 협력 촉진을 위해 국제 AI 안전연구소 네트워크가 출범, 초대 회원국 10개국 중 미국이 초대 의장국을 맡아 첫 회의를 개최했으며 동 네트워크는 연구, 테스트, 지침, 포용의 네 가지 우선순위 영역의 협력에 초점을 맞출 예정. 우
TTA MONTHLY REPORT - 인공지능 신뢰성 동향(12월호)
지난 11월의 인공지능 신뢰성 관련 정책, 연구, 산업, 사고 등의 주요 내용을 담아 12월호로 발간하였습니다.
Monthly Insight
우리 정부는 AI 3대 강국(AI G3)을 목표로 다양한 정책을 추진 중인 가운데, AI 시대의 필수 기반인 클라우드 컴퓨팅 관련 전략을 제시하고, 안전한 AI 개발 및 활용 확산과 국내 기업의 경쟁력 확보를 위한 AI 안전연구소의 설립 및 운영 계획을 발표했으며,