OCI Generative AI Quick Start

• OCI Generative AI
  https://docs.oracle.com/en-us/iaas/Content/generative-ai/home.htm
• Pretrained Foundational Models in Generative AI
  https://docs.oracle.com/en-us/iaas/Content/generative-ai/pretrained-models.htm#pretrained-models
• Develop Applications Using LangChain and OCI Generative AI
  https://www.oracle.com/kr/artificial-intelligence/develop-ai-powered-pdf-search-tool/

OCI Generative AI는 LLM model을 on-demand나 dedicated방식으로 사용할 수 있는 서비스를 제공한다.

이 blog는 OCI Generative AI에서 제공하는 LLM을 on-demand로 빠르게 호출하는 방법을 알아본다.

 

먼저 Generative AI menu로 이동한다.

 

Playgroud에서 llm을 선택후 원하는 결과가 나오도록 Parameter를 수정하면서 test를 수행한다.

(1) Palyground 중 chat을 선택한다.

(2) LLM모델을 선택한다. (region에 따라 선택가능한 model이 달라질 수 있다)

(3) 원하는 결과가 나오도록 Parameter를 수정한다.

(4) 결과를 확인한다.

(5) 원하는 결과가 나오는 Parameter가 확인되면 View Code를 통해서 LLM을 호출할 수 있는 코드를 확인한다.

 

On-demand로 LLM을 호출할 수 있는 코드를 확인하고 실행한다.