DX를 실현하기위한 대규모 언어 모델 활용
Chatgpt 환경 구축 및 작업 "Chat-라이브 배팅 사이트"
라이브 배팅 사이트 Co., Ltd.
라이브 배팅 사이트 그룹은 디지털 혁신 (DX)을 실현하기 위해 대규모 언어 모델 (LLM)과 같은 세대 AI를 활용하기 위해 노력하고 있습니다. 이 기사는 라이브 배팅 사이트 그룹에서 LLM을 사용하는 세 단계와 특정 이니셔티브를 소개합니다.
소개
라이브 배팅 사이트 그룹은 비즈니스 효율성을 개선하고 리드 타임을 줄이기위한 비즈니스 프로세스 개혁을 실현하고 사회적 문제 해결을 목표로하는 비즈니스 모델 개혁을 목표로하는 비즈니스 프로세스 개혁을 실현하기위한 DX (Digital Transformation) 노력을 연구하고 있습니다. 비즈니스 프로세스 개혁 에서이 회사는 특히 데이터 및 디지털 기술을 사용하여 노동을 구하는 것을 목표로합니다. 최근 몇 년 동안 주목을 받고있는 LLM (Lange Language Model)을 포함하는 AI를 생성하는 것은 지금까지 인간이 수행 한 문서 작성 및 계획 고려 사항과 같은 창의적인 작업을 수행 할 수 있으며 노동 절약을 달성하는 데 중요한 기술이라고 할 수 있습니다.
Chatgpt는 인간의 상호 작용과 유사한 자연 문장을 생성하는 대화식 AI 서비스입니다. 라이브 배팅 사이트 그룹은 LLM 사용을 3 단계로 나누고 있습니다. 첫 번째 단계에서는 세계에서 정보 만 배우고 일하기 위해 공개 LLM 인 Chatgpt를 사용합니다. 두 번째 단계는 회사의 비즈니스 데이터를 지칭하고이를 활용하는 시스템을 만드는 것입니다. 세 번째 단계는 각 비즈니스에 대해 LLM을 운영하기위한 시스템을 구축하는 것입니다. 이 기사는 LLM을 활용하려는 라이브 배팅 사이트 그룹의 노력을 소개합니다.
ChatGpt 환경 구축
Chatgpt는 2022 년 11 월 OpenAI에서 발표 한 인공 지능 챗봇입니다. LLM GPT (생성 사전 훈련 된 변압기)를 기반으로하는 대화식 AI 서비스이며 마치 인간과 상호 작용하는 것처럼 자연스러운 상호 작용을 허용합니다. 이 텍스트를 생성하는 기능을 사용하면 이메일 및 알림과 같은 문장을 만들고 설문 조사 결과를 구성하고 문장을 번역 및 요약하고 회의 노트를 통해 몇 분을 생성하고 프로그래밍 할 수 있습니다. 결과적으로, 인간이 지금까지 수행 한 작업에 대한 지원에 대한 기대와 근무 시간 감소가 증가하고 있습니다.
운영을 개선하기 위해 라이브 배팅 사이트 그룹은 2023 년 4 월부터 회사 내에서 ChatGpt를 도입 할 준비를 시작했습니다.
Chatgpt는 인터넷에 게시 된 서비스이므로 그대로 사용하면 LLM에서 배운 사용자가 업로드 한 내부 정보와 같은 정보 유출 위험이 있으며 정보는 외부 사용자에게 제공됩니다. 위험을 최소화하기 위해 라이브 배팅 사이트 그룹의 프라이빗 클라우드에서 Microsoft가 제공하는 Azure OpenAI 서비스를 사용하는 내부 ChatGpt 서비스 인 "Chat-라이브 배팅 사이트"를 개발했습니다. Chat-라이브 배팅 사이트는 라이브 배팅 사이트 그룹의 LLM 서비스이지만 첫 번째 단계에서는 라이브 배팅 사이트에 대해 사용자 정의가 수행되지 않았으며 대신 Azure OpenAI Service가 제공 한 모델을 그대로 사용했습니다.
Azure Openai Service는 Openai Gpt를 기반으로 한 Microsoft Azure Cloud에 제공되는 비즈니스 기반 세대 AI 서비스입니다. 일반적 으로이 서비스를 통해 Microsoft는 사용자 사용량 로그를 녹화하고 사용할 수 있지만,이를 수행하지 못하도록 절차를 완료 한 후 Chat-라이브 배팅 사이트가 개발되었습니다.
2023 년 6 월 말, Chat-라이브 배팅 사이트는 약 20,000 명의 국내 그룹 계열사에 석방되었습니다. 또한 이에 따라 "Chat-라이브 배팅 사이트 Portal 사이트"가 출시되어 Chat-라이브 배팅 사이트의 비즈니스 사용에 유용한 정보를 수집하고 정보를 제공하며 사용을위한 예방 조치, 운영 설명서 및 FAQ를 포함합니다. Chat-라이브 배팅 사이트는 비즈니스 효율성을 향상시키고 새로운 아이디어를 만드는 데 유용하지만 입력 한 데이터의 내용과 제품 사용 방법에 따라 법률을 위반하거나 다른 사람의 권리를 위반할 위험이 있습니다. 따라서 Chat-라이브 배팅 사이트에 입력 할 수있는 데이터와 출력 결과를 올바르게 활용하는 방법을 알려주는 지침을 게시했습니다.
이 지침은 일반적인 통합 협회 인 일본 딥 러닝 협회 (Japan Deep Learning Association)에서 발행 한 "생성 된 AI 사용 지침"을 기반으로합니다. 그러나 라이브 배팅 사이트 그룹은 핵 및 방어 관련 프로젝트에 종사하고 있기 때문에 특히 보안과 관련된 기술 정보의 처리를 고려해야했습니다. 따라서 법무 및 경제 안보와 같은 내부 관계 부서 외에도 변호사 및 기타 외부 전문가와 같은 외부 전문가를 인터뷰했습니다. 가이드 라인은 "Chat-라이브 배팅 사이트는 부서에서 개인 정보 또는 기밀 정보를 입력해서는 안되며"사실과 다른 콘텐츠를 포함 할 수 있으므로 제품의 내용을 믿지 않으며 항상 증거 또는 지원을 제공하지 않아야 할 때 신중해야 할 사항 "과 같은 데이터를 입력 할 때 관찰 해야하는 내용을 명시합니다.
비즈니스 운영을 개선하기위한 Chat-라이브 배팅 사이트의 활용
Chat-라이브 배팅 사이트가 출시 된 후 3,600 명이 일주일 안에 그것을 사용하여 높은 관심을 나타냅니다. 여기에서 우리는 라이브 배팅 사이트 그룹에서 LLM을 사용하는 첫 번째 단계를 소개합니다.이 그룹은 공개적으로 이용 가능한 LLM 모델을 활용하는 이니셔티브입니다.
LLM 사용의 첫 단계로 취한 비즈니스 개선 캠페인의 설명. Chat-라이브 배팅 사이트는 출시 이후 각 개인의 비즈니스 운영을 개선하는 데 사용되기 시작했지만 각 직장의 개선 활동은 완전히 실현되지 않았습니다. 비즈니스에 사용되도록하기 위해 Chat-라이브 배팅 사이트 사용에 대한 인식을 장려하기위한 캠페인이 열렸습니다. 이 캠페인은 2023 년 8 월부터 9 월까지 개최되어 정보 시스템 부서의 약 200 명을 대상으로했습니다.
이 캠페인에는 일상 업무에서 Chat-라이브 배팅 사이트를 사용하여 운영을 개선하고 부서 내 결과를보고하는 것이 포함됩니다. 보고 할 때, 우리는 그것을 사용하는 방법에 대한 예를 제공했을뿐만 아니라 근무 시간 감소와 같은 개선 효과를 설명하도록 요청했습니다. 문서 작성 지원, 코딩 지원, 아이디어 지원, 분석 및 제안 지원을 포함하여 3 주 만에 수십 건의 사례 가보고되었습니다.
고객 서비스 부서가 Chat-라이브 배팅 사이트를 사용하여 서면 설문 조사를 분석하는 경우, 사람들이 몇 시간을 보낸 설문 조사의 분석 작업은 몇 분으로 줄었습니다. "트렌드를 분석하십시오"와 설문 조사 내용을 Chat-라이브 배팅 사이트에 통합하여 추세가 총알 포인트에 표시되며 설문 조사의 이해 추세가 크게 줄어들 었습니다.
다른 경우, 근무 시간이 약 50%에서 90% 감소 할 것으로 예상되었습니다. Chat-Hii를 사용하면 다시 한 번 근무 시간을 줄이고 사람들이 아이디어를 제시하도록 돕는 것과 같은 효과를 확인했습니다. 또한 Chat-라이브 배팅 사이트는 캠페인에 적합한 직장에서 사용되었으며 Chat-라이브 배팅 사이트의 비즈니스 사용을 홍보 할 수있었습니다.
또한, 우리는 사용자가 회사 내외에서 Chat-라이브 배팅 사이트에 제공하는 유용한 지침 (프롬프트)을 수집했으며, 비즈니스 운영을 개선하는 데 도움이되는 포털 사이트에 각각의 사용 범주에 대한 특정 프롬프트를 게시하는 등 유용한 사용 방법을 도입했습니다.
내부 데이터 활용에 대한 문제 참석
라이브 배팅 사이트 그룹에서 LLM을 사용하는 두 번째 단계는 비즈니스 데이터와 연결되는 이니셔티브입니다.
Chat-라이브 배팅 사이트를 사용하여 내부 비즈니스 프로세스 개혁을 실현하기 위해 Chat-라이브 배팅 사이트의 응답에서 내부 규정과 같은 내부 데이터를 반영하는 것과 같은 몇 가지 방법이 있습니다. 또한 회사 내외부의 과거 재난 사례와 관련하여 건설 현장에서 작업하기 전에 수행 된 안전 위험 평가에서 Chat-라이브 배팅 사이트를 사용하여 예상 위험을 식별하는 것으로 간주됩니다. 이를 달성하기 위해 외부 데이터베이스 및 정보 소스를 연결하는 RAG (검색 증강 생성)라는 기술을 사용하여 비즈니스 지식에 응답하는 시스템을 개발했습니다.
또한, GPT와 같은 LLM에서는 멈추고 (사실을 기반으로하지 않는 정보가 생성되는 현상)가 발생할 수 있으므로 사용자는 답의 진실을 확인해야합니다. Halcination에 대한 대응책으로,이 시스템은 답변이있는 관련 문서에 대한 링크를 제공하여 사용자가 답의 진실을 쉽게 확인할 수 있도록합니다.
RAG를 사용함으로써 LLM의 약점 인 Halcination의 효과를 줄일 수있는 동시에 생성 된 AI 응답의 내용을 내부 데이터와 연결할 수 있음을 확인했습니다.
각 비즈니스에 대한 LLM 운영 구조 개선
라이브 배팅 사이트 그룹에서 LLM을 사용하는 세 번째 단계 설명 각 프로젝트에 대해 LLM을 운영하기위한 시스템을 만들기위한 이니셔티브. 라이브 배팅 사이트 그룹은 4 가지 비즈니스 영역으로 구성된 회사 그룹이므로 유용한 데이터는 비즈니스 영역에서 공유되지만 특정 비즈니스 영역의 비밀 정보를 다른 비즈니스 영역에서 보지 못하게하는 것과 같은 기밀 정보를 관리해야합니다. 솔루션으로서 각 비즈니스 영역에 대해 LLM을 운영하기위한 환경을 준비 할 수 있지만 각 비즈니스 영역에서 클라우드 환경을 준비하면 비용이 더 높아 지므로 경량 LLM을 사용하는 것을 고려하고 있으며, 이는 작은 컴퓨터 자원으로 운영 될 수 있습니다. Lightweight LLM에는 소수의 매개 변수가 있으므로 클라우드 환경과 같은 대형 서버없이 작동 할 수 있습니다.
또한 소수의 매개 변수로 인해 정확도는 수많은 매개 변수가있는 모델보다 열등하지만 일반 LLM보다 비즈니스 데이터 및 작업에 따라 미세 조정을 수행하는 것이 더 쉽고 LLM이 비즈니스 적용을 가속화 할 수있을 것으로 예상됩니다. 앞으로 우리는 경량 LLM을위한 환경을 조성하고 비즈니스를 활용하기 위해 계속 노력할 것입니다.
결론
DX를 실현하기 위해 LLM을 활용하기 위해 라이브 배팅 사이트 그룹은 공개적으로 이용 가능한 LLM 운영 사용, 내부 데이터와 협력하며 각 비즈니스 영역에 대한 LLM을 운영하기위한 시스템을 설정합니다.
첫 번째 단계에서 LLM의 사용을 촉진하기 위해 비즈니스 개선 캠페인과 사용 예제의 내부 배포를 수행했습니다. 두 번째 단계는 RAG를 사용하여 조항에 대한 조치를 취하면서 내부 데이터를 검색 할 수있는 시스템을 만드는 것입니다.
앞으로, 우리는 세 번째 단계에서 작업하여 각 비즈니스 영역에 대한 LLM 운영 시스템을 구축 할 것이며, 비즈니스 프로세스 개혁뿐만 아니라 사회적 문제를 해결하기 위해 적극적으로 노력할 것입니다.
발행 1 (2024 년 6 월 발행) : 미래의 교차로에 서있는 스포츠 토토 분석
: 지속 가능성에서 AI 활용도로