Offcanvas

환각

“구인구직 매칭 서비스에 LLM 활용해보니...” 링크드인이 전하는 생성형 AI 현실 교훈

이 소셜 미디어 대기업은 회원 서비스를 개선하기 위해 생성형 AI를 도입했다. 링크드인의 엔지니어들이 LLM을 활용하여 비즈니스 성과를 달성하는 과정에서 얻은 교훈을 소개한다.    전 세계 10억 명 이상의 사용자를 보유한 링크...

링크드인 LLM 생성형 AI 환각 애저 오픈AI 구인구직

2024.04.26

이 소셜 미디어 대기업은 회원 서비스를 개선하기 위해 생성형 AI를 도입했다. 링크드인의 엔지니어들이 LLM을 활용하여 비즈니스 성과를 달성하는 과정에서 얻은 교훈을 소개한다.    전 세계 10억 명 이상의 사용자를 보유한 링크...

2024.04.26

MS, ‘환각 및 취약점 감지 도구’ 애저 AI 서비스에 추가

마이크로소프트(MS)가 환각 현상을 비롯한 AI 취약점을 감지하는 도구를 애저 스튜디오 AI에 추가한다고 28일 밝혔다.   애저 AI 스튜디오는 생성형 AI 솔루션 및 맞춤형 코파일럿 개발을 지원하는 플랫폼이다. 이번 업데이트로 ...

애저AI스튜디오 마이크로소프트 책임있는AI 환각

2024.03.29

마이크로소프트(MS)가 환각 현상을 비롯한 AI 취약점을 감지하는 도구를 애저 스튜디오 AI에 추가한다고 28일 밝혔다.   애저 AI 스튜디오는 생성형 AI 솔루션 및 맞춤형 코파일럿 개발을 지원하는 플랫폼이다. 이번 업데이트로 ...

2024.03.29

‘기업의 AI 책임 문제 강조’… 에어캐나다 챗봇 사건의 시사점

항공사 에어캐나다가 고객 서비스 챗봇의 가격 책정 실수에 대해 비용을 지불하라는 판결을 받았다. 분석가들은 이 사건을 기업이 AI 도구 모니터링에 투자해야 하는 이유를 보여주는 사례로 언급했다.   캐나다 민사 해결 재판소가 에어캐나다에 ...

챗봇 에어캐나다 AI챗봇 대화형 AI 챗봇 환각 환각현상

2024.02.21

항공사 에어캐나다가 고객 서비스 챗봇의 가격 책정 실수에 대해 비용을 지불하라는 판결을 받았다. 분석가들은 이 사건을 기업이 AI 도구 모니터링에 투자해야 하는 이유를 보여주는 사례로 언급했다.   캐나다 민사 해결 재판소가 에어캐나다에 ...

2024.02.21

기고 | LLM 환각 완화 해법 ··· '검색 증강 생성(RAG)'의 이해

검색 증강 생성(Retrieval-augmented generation, RAG)은 특정 데이터 소스를 사용해 대규모 언어 모델(LLM)의 "근거"를 갖추는 데 사용되는 기법이다. 대부분의 경우 모델의 원래 학습에는 포함되지 않았던 소스를 이용한다. ...

rag 환각 AI

2024.01.25

검색 증강 생성(Retrieval-augmented generation, RAG)은 특정 데이터 소스를 사용해 대규모 언어 모델(LLM)의 "근거"를 갖추는 데 사용되는 기법이다. 대부분의 경우 모델의 원래 학습에는 포함되지 않았던 소스를 이용한다. ...

2024.01.25

어렵지만 꺼내야 한다··· CIO가 AI 전략 회의에서 던져야 할 질문 6가지

기업의 AI 전략에 대한 고민이 그 어느 때보다 깊어지고 있는 시기다. CIO는 AI 전략과 관련한 질문에 해답을 직접 제시하지 못할 경우, 최소한 관련 이슈에 관한 대화를 이끌어 갈 수 있어야 한다. 다음은 기업에서 현재 논의하면 좋은 AI 관련 주...

생성형AI 환각 윤리 기업 엔터프라이즈ai

2024.01.10

기업의 AI 전략에 대한 고민이 그 어느 때보다 깊어지고 있는 시기다. CIO는 AI 전략과 관련한 질문에 해답을 직접 제시하지 못할 경우, 최소한 관련 이슈에 관한 대화를 이끌어 갈 수 있어야 한다. 다음은 기업에서 현재 논의하면 좋은 AI 관련 주...

2024.01.10

"오류·환각 포착을 자동화"··· 스타트업 패트로너스, LLM 평가 도구 출시

AI 챗봇과 기타 LLM 기반 도구가 산출한 결과를 평가하는 도구를 패트로너스(Patronus)가 공개했다. 심플세이프티테스트(SimpleSafetyTests)라는 솔루션이다. 챗GPT, Dall-E2, 알파코드(AlphaCode)와 같은 생성형 A...

패트로너스 패트로누스 LLM 환각 AI 오류

2024.01.09

AI 챗봇과 기타 LLM 기반 도구가 산출한 결과를 평가하는 도구를 패트로너스(Patronus)가 공개했다. 심플세이프티테스트(SimpleSafetyTests)라는 솔루션이다. 챗GPT, Dall-E2, 알파코드(AlphaCode)와 같은 생성형 A...

2024.01.09

“환각·데이터 유출 위험 AI 관리 플랫폼으로 줄여보자”··· 한국IBM, 왓슨X닷거버넌스 출시

한국IBM이 IBM 왓슨X닷거버넌스(watsonx.governance) 출시 기자 간담회를 개최하고, 기업이 AI를 비즈니스에서 활용할 때 안전하게 규정과 정책을 준수할 수 있도록 지원하겠다고 14일 밝혔다. IBM은 생성형 AI 수요에 대응하기 위...

한국IBM 왓슨X 컨설팅 이지은 김현정 환각

2023.12.14

한국IBM이 IBM 왓슨X닷거버넌스(watsonx.governance) 출시 기자 간담회를 개최하고, 기업이 AI를 비즈니스에서 활용할 때 안전하게 규정과 정책을 준수할 수 있도록 지원하겠다고 14일 밝혔다. IBM은 생성형 AI 수요에 대응하기 위...

2023.12.14

'생성형 AI의 기반' 대규모 언어 모델 안내서

GPT, 바드, 라마 2 같은 대규모 언어 모델(LLM)은 대중의 상상력을 자극하고 다양한 반응을 끌어냈다. LLM에 대한 열기의 이면을 살펴보면서 대규모 언어 모델의 기원, 이러한 모델이 어떻게 구축 및 학습되는지를 살펴본다. 또한, 어떤 범위에서 ...

대규모언어모델 LLM GPT 바드 라마2 심층신경망 환각 AI

2023.11.22

GPT, 바드, 라마 2 같은 대규모 언어 모델(LLM)은 대중의 상상력을 자극하고 다양한 반응을 끌어냈다. LLM에 대한 열기의 이면을 살펴보면서 대규모 언어 모델의 기원, 이러한 모델이 어떻게 구축 및 학습되는지를 살펴본다. 또한, 어떤 범위에서 ...

2023.11.22

“환각 피하는 해법은 프라이빗 AI” VM웨어의 AI 데이터 플랫폼 전략

챗GPT와 같은 AI 모델의 혁신적인 발전은 많은 기업의 사용자 경험을 개선하고 텍스트에서 이미지, 영상에 이르는 비정형 데이터의 잠재력을 최대한 활용하도록 영감을 주었다. 하지만 이런 API 기반의 외부 AI 언어모델에 대한 우려가 존재하는 것이 사...

환각 AI VM웨어

2023.10.05

챗GPT와 같은 AI 모델의 혁신적인 발전은 많은 기업의 사용자 경험을 개선하고 텍스트에서 이미지, 영상에 이르는 비정형 데이터의 잠재력을 최대한 활용하도록 영감을 주었다. 하지만 이런 API 기반의 외부 AI 언어모델에 대한 우려가 존재하는 것이 사...

2023.10.05

생성형 AI의 어두운 진실 7가지

생성형 AI 알고리즘이 그럴듯한 예술 작품을 만들고 훌륭한 문법의 긴 에세이를 작성해버리는 모습에 여전히 모두가 감탄을 금치 못하고 있다. 모든 CIO와 CEO는 생성형 AI가 비즈니스를 어떻게 변화시킬 것인가를 논의할 슬라이드 몇 개쯤은 저장해두고 ...

생성형 AI 환각 확률 벤더 종속 데이터 필터링 데이터 거버넌스 저작권

2023.09.15

생성형 AI 알고리즘이 그럴듯한 예술 작품을 만들고 훌륭한 문법의 긴 에세이를 작성해버리는 모습에 여전히 모두가 감탄을 금치 못하고 있다. 모든 CIO와 CEO는 생성형 AI가 비즈니스를 어떻게 변화시킬 것인가를 논의할 슬라이드 몇 개쯤은 저장해두고 ...

2023.09.15

블로그 | 비즈니스 분야의 AI 확산을 더디게 하는 3가지 요인

AI가 향후 10년간 생산성을 크게 향상시킬 잠재력을 가지고 있음에는 이견이 있기 어렵다. 그러나 단기간에 기업을 혁신할 것이라는 기대는 무리일 수 있다.   맥킨지는 AI가 많은 업무 활동을 자동화할 것이라는 전망에 대해 낙관하면서도 이...

생성형 AI AI 트랜스포메이션 환각 인간

2023.09.11

AI가 향후 10년간 생산성을 크게 향상시킬 잠재력을 가지고 있음에는 이견이 있기 어렵다. 그러나 단기간에 기업을 혁신할 것이라는 기대는 무리일 수 있다.   맥킨지는 AI가 많은 업무 활동을 자동화할 것이라는 전망에 대해 낙관하면서도 이...

2023.09.11

LLM 환각 모니터링 지원··· 어라이즈AI, ML옵스 라이브러리 오픈소스로 공개

ML옵스(MLOps) 플랫폼 기업 어라이즈AI(ArizeAI)가 대형언어모델(LLM)의 환각 현상을 집중 모니터링하는 오픈소스 라이브러리 ‘피닉스(Phoenix)’를 25일 공개했다.     2019년 미국에서 설립된 어라이즈AI...

LLM 환각 어라이즈AI 오픈소스 모니터링 피닉스

2023.04.26

ML옵스(MLOps) 플랫폼 기업 어라이즈AI(ArizeAI)가 대형언어모델(LLM)의 환각 현상을 집중 모니터링하는 오픈소스 라이브러리 ‘피닉스(Phoenix)’를 25일 공개했다.     2019년 미국에서 설립된 어라이즈AI...

2023.04.26

회사명:한국IDG 제호: CIO Korea 주소 : 서울시 중구 세종대로 23, 4층 우)04512
등록번호 : 서울 아01641 등록발행일자 : 2011년 05월 27일

발행인 : 박형미 편집인 : 천신응 청소년보호책임자 : 한정규
사업자 등록번호 : 214-87-22467 Tel : 02-558-6950

Copyright © 2024 International Data Group. All rights reserved.

10.4.0.13