바로가기 메뉴 본문 바로가기 주메뉴 바로가기

인공지능 신뢰성 구현 공간 - AI TrustOps

AI TrustOps는 인공지능(AI) 서비스를 개발하는 과정에서 활용할 수 있는 인공지능 신뢰성 자가 검증 도구입니다. 자가 진단을 위한 검증항목과 그 결과를 개선할 수 있는 기술요소를 제공함으로써 신뢰할 수 있는 서비스를 구축할 수 있도록 지원합니다.
NEWS
[정책자료] 전국민 인공지능 일상화 실행계획

□ 추진배경: - 새정부 출범 이후 ‘뉴욕구상(’22.9)’, ‘대한민국 디지털 전략(’22.9)’을 통해 국민과 함께 세계의 모범이 되는 디지털 강국 실현 추진 * ‘파리 이니셔티브(’23.6)’를 통해 새로운 디지털 질서・규범 정립 본격화 - 국민 누구나 일상 속에서 AI 혜택을 누릴 수 있도록 하고, 이를 대규모 AI 수요 창출로 연결하여 AI 산업 육성 추

[정책자료] 초거대AI 경쟁력 강화 방안 발표

◆ 민간의 초거대 AI 개발·고도화 지원 민간의 초거대 AI 개발·고도화를 지원하는 기술·산업 인프라를 확충한다.  이를 위해 산업계 수요를 기반으로 분야별 특화 학습용 데이터와 비영어권 시장 공략을 위한 동남아·중동 등 언어 데이터를 2027년까지 200종(책 15만권 분량) 구축한다.  또한 초거대 AI 한국어 성능 향상을 위해 고품질 말뭉치와 한

[정책자료] 「신뢰할 수 있는 인공지능 실현전략」발표

과학기술정보통신부는 「신뢰할 수 있는 인공지능 실현전략」을 5.13(목) 발표하였다. - 이번 전략은 “누구나 신뢰할 수 있는 인공지능, 모두가 누릴 수 있는 인공지능 구현”을 비전으로 하여, 기술·제도·윤리 측면의 3대 전략과 10대 실행과제를 통해 ‘25년까지 단계적으로 추진 계획. - 동 전략은 2020년 발표한 「인공지능 윤리기준」(’20.12.)의 실천

생성형 AI 레드팀 챌린지 개최, AI 위험 발굴·대응 체계 구축

ㅁ 과학기술정보통신부와 한국정보통신기술협회(TTA)가 '생성형 인공지능(AI) 레드팀 챌린지(이하 레드팀 챌린지)'를 4월 11일~12일 이틀간 서울 삼성동 코엑스에서 개최 ㅁ 대규모 참가자가 챌린지에 참여해 국내 AI 기업의 거대언어모델(LLM)을 집중 점검할 수 있는 장을 마련하는 게 이번 행사의 목적 ㅁ '레드팀 챌린지' 결과를 분석해 생성형 AI 분야의 공통·

인공지능 신뢰성 기반조성 사업 홍보 자료 (리플렛 5종)

한국정보통신기술협회(TTA)에서 진행 중인 인공지능 신뢰성 기반조성 사업 홍보 자료 (리플렛 5종) 배포  

TTA, 글로벌 전기전자공학자 표준협회와(IEEE) AI 신뢰성 검증 협력

ㅁ 한국정보통신기술협회(TTA)는 전기전자공학자 표준협회(IEEE SA)와 인공지능 신뢰성 검증 협력 양해각서 및 표준 준용 협약을 체결 ㅁ 전날 체결한 양해각서와 표준 준용협약은 인공지능, 메타버스, 양자통신과 같은 주목받고 있는 ICT 기술 분야에서의 협력을 목표 ㅁ 양해각서는 인공지능 안정성을 위한 신뢰성을 확보하고 윤리와 관련된 인증제도 상호협력에

TTA MONTHLY REPORT - 인공지능 신뢰성 동향(12월호)

지난 11월의 인공지능 신뢰성 관련 정책, 연구, 산업, 사고 등의 주요 내용을 담아 12월호로 발간하였습니다. Monthly Insight 우리 정부는 AI 3대 강국(AI G3)을 목표로 다양한 정책을 추진 중인 가운데, AI 시대의 필수 기반인 클라우드 컴퓨팅 관련 전략을 제시하고, 안전한 AI 개발 및 활용 확산과 국내 기업의 경쟁력 확보를 위한 AI 안전연구소의 설립 및 운영 계획을 발표했으며,

TTA MONTHLY REPORT - 인공지능 신뢰성 동향(11월호)

지난 10월의 인공지능 신뢰성 관련 정책, 연구, 산업, 사고 등의 주요 내용을 담아 11월호로 발간하였습니다. Monthly Insight - G20은 글로벌 디지털 격차 해소 및 포용성 확대를 위해 안전하고 투명하며 신뢰할 수 있는 AI 사용의 중요성을 인식, 디지털 포용에 관한 공동 선언문을 채택하고 특히 AI 솔루션의 투명성 보장과 AI 생성 콘텐츠 식별을 위한 인증 메커니즘의 필요성을 강조

TTA MONTHLY REPORT - 인공지능 신뢰성 동향(10월호)

지난 9월의 인공지능 신뢰성 관련 정책, 연구, 산업, 사고 등의 주요 내용을 담아 10월호로 발간하였습니다. Monthly Insight - EU가 전 세계 최초의 AI 규제 프레임워크인 EU AI법(AI Act)을 제정하고 8월 1일부터 이를 시행 중인 가운데 빠르게 발전하는 AI 기술에 대한 규제의 필요성이 심화. '16년 이후 30여 개국에서 AI를 명시적으로 규제하는 법률이 통과되고 전 세계적으로 AI 법안

  • 정책자료 아이콘 정책자료
  • 관련뉴스 아이콘 관련뉴스
  • 기술동향 아이콘 기술동향

뷰어 다운로드

세계 최고 수준의
AI디지털융합 시험기관

인공지능 신뢰성이란?

'인공지능 신뢰성'이란 데이터 및 모델의 편향, 인공지능 기술에 내재한 위험과 한계를 해결하고,
인공지능을 활용하고 확산하는 과정에서 부작용을 방지하기 위해 준수해야 하는 가치 기준