Chat with Retrieval-Augmented Generation (RAG)

소개

Chat은 Retrieval-Augmented Generation(RAG)을 통해 앱에 대화형 AI를 통합하는 혁신적인 도구입니다. 이 기술은 입력, 소스 및 모델을 통합하여 강력한 제품 경험을 제공합니다. Command 모델에 의해 구동되는 이 시스템은 사용자의 의도를 이해하고, 대화 이력을 기억하며, 다중 턴 대화에서 지능적으로 응답합니다.

주요 기능

1. 데이터 소스 연결

기업 데이터 저장소: 내부 데이터 저장소를 모델에 지정하여 독점 데이터를 안전하게 인용할 수 있습니다.
인터넷: 웹을 통해 실시간 정보를 기반으로 응답을 생성할 수 있습니다.
특정 문서: 수동으로 선택한 문서를 제공하여 특정 콘텐츠에 대한 Q&A를 가능하게 합니다.

2. 신뢰성 있는 응답

환각 감소: 생성된 응답과 사용자 간의 신뢰를 구축하기 위해 인용을 통해 응답의 출처를 명확히 합니다.
프라이버시 유지: 비공식적으로 배포될 경우, 훈련 데이터, 입력 프롬프트 및 출력 응답은 안전한 환경 내에서만 유지됩니다.

3. 간단한 API, 강력한 결과

ML/AI 경험 수준에 관계없이 Cohere의 Command 모델을 사용하여 애플리케이션 내에서 채팅 인터페이스를 쉽게 구축할 수 있습니다.

사용 방법

다음은 Python을 사용하여 Chat을 시작하는 방법입니다:

import cohere
co = cohere.Client('MLZXavfC2EpNaW3dYRG5KwWPcMIvBUyabF1DPBgw')  # 이건 당신의 시험 API 키입니다.
response = co.chat(
    message='<YOUR MESSAGE HERE>',
    prompt_truncation='auto',
    connectors=[{"id": "web-search"}]
)
print(response)