로고

ㅁ 과학기술정보통신부와 한국정보통신기술협회(TTA)가 '생성형 인공지능(AI) 레드팀 챌린지(이하 레드팀 챌린지)'를 4월 11일~12일 이틀간 서울 삼성동 코엑스에서 개최 ㅁ 대규모 참가자가 챌린지에 참여해 국내 AI 기업의 거대언어모델(LLM)을 집중 점검할 수 있는 장을 마련하는 게 이번 행사의 목적 ㅁ '레드팀 챌린지' 결과를 분석해 생성형 AI 분야의 공통·포괄적 위험을 도출하고, 업계에서 활용할 수 있는 '생성형 AI 레드팀 수행가이드라인'을 마련하는 등 표준화된 AI 위험 발굴·대응체계를 구축해 나갈 계획   [자세한 내용은 첨부된 기사를 참고하시기 바랍니다.] https://www.etnews.com/20240321000211

한국정보통신기술협회(TTA)에서 진행 중인 인공지능 신뢰성 기반조성 사업 홍보 자료 (리플렛 5종) 배포  

ㅁ 한국정보통신기술협회(TTA)는 전기전자공학자 표준협회(IEEE SA)와 인공지능 신뢰성 검증 협력 양해각서 및 표준 준용 협약을 체결 ㅁ 전날 체결한 양해각서와 표준 준용협약은 인공지능, 메타버스, 양자통신과 같은 주목받고 있는 ICT 기술 분야에서의 협력을 목표 ㅁ 양해각서는 인공지능 안정성을 위한 신뢰성을 확보하고 윤리와 관련된 인증제도 상호협력에 중점. 이를 통해 양 기관은 ICT 기술 분야의 표준화를 촉진할 예정 [자세한 내용은 첨부된 기사를 참고하시기 바랍니다.] https://n.news.naver.com/mnews/article/003/0011982869?sid=105

ㅁ GPT 등장 이후 글로벌 테크기업들의 거대AI 선점 경쟁이 뜨거운 상황 - 우리나라는 네이버를 위시해 LG, 카카오 등이 거대AI를 오픈 - 구글도 10일(미국시각) 거대AI로 학습한 인공지능 챗봇 '바드'(Bard)를 미국과 한국을 비롯해 전세계 180개국에 오픈 ㅁ 이들 거대AI는 환각은 물론 내놓은 결과를 설명하지 못하는 AI의 근본 문제를 안고 있어 AI의 신뢰성과 안정성에 우려를 던지고 있다.  ㅁ 과기정통부는 11일 박윤규 제 2차관이 참석한 가운데 서울 명동 제네시스랩에서 열린 '인공지능 윤리·신뢰성 강화를 위한 현장간담회'에서  "초거대AI의 위험 우려 요인, 성능 등에 대해 공신력있는 제 3기관이 평가하는 것을 지원하겠다"고 밝힘 - 평가는 ▲공평성 ▲사실 정확성 ▲활용 적합성 ▲출처 적정성 등 4개 부문에 걸쳐 이뤄질 전망 - 현재 테스트셋을 개발중이며 이와별도로 과기정통부는 인공지능 윤리와 관련한 검인증 체계도 마련 예정 ㅁ 이강해 한국정보통신기술협회(TTA) AI융합기획단장은 "이미 만들어 놓은 신뢰할 수 있는 인공지능 개발 안내서를 기반으로 인공지능 제품, 서비스의 위험 요인을 분석하는 제 3자 검,인증 체계를 마련하는 한편 민간자율 시범 검,인증을 통해 인공지능 신뢰성에서 글로벌 주도권을 확보하는데 기여하겠다"고언급 [자세한 내용은 첨부된 기사를 참고하시기 바랍니다.] https://n.news.naver.com/mnews/article/092/0002291962?sid=105

- 신기술·혁신 서비스가 출시될 때마다 알려지지 않은 위험요인이 항상 도사리고 있기 때문에 이들의 사회적 수용성을 위한 핵심 요인은 신뢰성 확보 - 유럽은 전 세계 최초로 AI 법안을 내놓으며 규제화를 앞두고 있다. 미국은 주정부 단위의 일부 규제와 함께 기술 혁신의 유도 및 지원을 동시에 추진. 영국은 어느 정도 위험을 용인하지만 반복적 모니터링을 통해 위험에 대처할 수 있는 유연한 규제 방식 - 기업과 연구자들의 이러한 자체적인 노력이 빛을 발하기 위해서는 신뢰할 수 있는 AI 지표와 도구 개발을 통한 검‧인증이 필수 - TTA는 AI 연구자 및 개발자가 신뢰성을 이해하고, 업무 현장에 반영할 수 있도록 웹 기반 자가점검 도구와 컨설팅을 제공함으로써 실무자의 접근성을 확장하고 있음. [자세한 내용은 첨부된 기사를 참고하시기 바랍니다.] https://it.chosun.com/site/data/html_dir/2023/02/28/2023022800492.html

- 최근 챗GPT를 필두로 국내외 빅테크 기업들이 초거대 AI 기반 서비스를 경쟁적으로 내놓지만, 신뢰할 수 있는 정보인지 별도로 검증해야 한다는 한계 - ICT 분야 최고의 전문가들이 모여 있는 한국정보통신기술협회(TTA)는 AI의 신뢰성을 검증할 수 있는 표준화를 진행하며 초거대 AI 서비스의 폐단을 미연에 막을 수 있는 노력을 기울이는 중 - 2022년 7월 문을 연 TTA의 AI융합시험연구소가 그 중심에 있으며, IT조선은 TTA의 AI 신뢰성 분야 표준 추진 노력과 주요 일정 등에 대해 작성 [자세한 내용은 첨부된 기사를 참고하시기 바랍니다.] https://it.chosun.com/site/data/html_dir/2023/02/28/2023022800492.html

한국정보통신기술협회(TTA, 회장 최영해)는 이달 1일 ‘AI융합시험연구소’를 개소했다고 밝혔다. 정부가 추진하고 있는 세계 최고 수준 AI 혁신전략에 적극 대응하고 AI융합 분야 품질확보 지원을 위해서다. 그동안 TTA는 AI산업 발전에 따라 AI학습용 데이터 품질관리 세부 기준과 품질 지표, AI 신뢰성 개발안내서 등 국내 AI기업 경쟁력 강화를 위한 방향을 제시해 왔다. 신설한 AI융합시험연구소를 통해 디지털 혁신 근간인 AI‧데이터 기술 활용 및 확산을 위해 국내기업 제품과 서비스의 품질확보를 적극 지원할 계획이다. [자세한 내용은 첨부된 기사를 참고하시기 바랍니다.] https://zdnet.co.kr/view/?no=20220704213325