Generative AI Studio

실습 링크 : [Generative AI Studio](https://www.cloudskillsboost.google/focuses/63564?catalog_rank=%7B%22rank%22%3A1%2C%22num_filters%22%3A1%2C%22has_search%22%3Atrue%7D&parent=catalog&search_id=25614170&utm_source=cgc&utm_medium=blog&utm_campaign=learngenai "Generative AI Studio") # 개요 Vertex AI는 머신 러닝 모델을보다 빠르고 쉽게 구축, 배포 및 확장 할 수있는 엔드 투 엔드 머신 러닝 플랫폼입니다. 데이터 준비에서 모델 배포에 이르기까지 머신 러닝 라이프 사이클의 모든 측면을 관리하기위한 통합 된 경험을 제공합니다. 버텍스 AI 생성 AI 스튜디오 사용자가 생성 AI 모델을 만들고 실험 할 수있는 클라우드 기반 플랫폼입니다. 이 플랫폼은 머신 러닝에 대한 배경 지식이 없어도 생성 AI로 쉽게 시작할 수있는 다양한 도구와 리소스를 제공합니다. 이 랩에서는 Vertex AI와 함께 Generative AI Studio를 사용하여 API 또는 Python SDK를 사용하지 않고 Google Cloud 콘솔에서 프롬프트 및 대화를 만듭니다. # 목표 이 실험실에서는 다음 작업을 수행하는 방법을 배웁니다: * 자유 형식 및 구조화 된 모드로 프롬프트를 작성하십시오. * 대화를 만듭니다. * 프롬프트 갤러리를 탐색하십시오. # Enable the Vertex AI API  [[Vertex AI API]](https://console.cloud.google.com/marketplace/product/google/aiplatform.googleapis.com?q=search&referrer=search&project=qwiklabs-gcp-00-f08330f88793 "[Vertex AI API]") adjust the Token limit parameter to 1 and click the SUBMIT button adjust the Token limit parameter to 1024 and click the SUBMIT button adjust the Temperature parameter to 0.5 and click the SUBMIT button adjust the Temperature parameter to 1.0 and click the SUBMIT button Temperature controls the degree of randomness in token selection. Lower temperatures are good for prompts that expect a true or correct response, while higher temperatures can lead to more diverse or unexpected results. A temperature of 0 is deterministic: the highest probability token is always selected. For most use cases, try starting with a temperature of .2. Top-k changes how the model selects tokens for output. A top-k of 1 means the selected token is the most probable among all tokens in the model’s vocabulary (also called greedy decoding), while a top-k of 3 means that the next token is selected from among the 3 most probable tokens (using temperature). The default top-k value is 40. Top-p changes how the model selects tokens for output. Tokens are selected from most probable to least until the sum of their probabilities equals the top-p value. For example, if tokens A, B, and C have a probability of .3, .2, and .1 and the top-p value is .5, then the model will select either A or B as the next token (using temperature). The default top-p value is .8. # Task 1. Create prompts In the Google Cloud Console, in the Navigation menu (Navigation menu), navigate to Artificial Intelligence > Vertex AI. In the Vertex AI menu, under Generative AI Studio , click Language. ## Create prompt [Artificial Intelligence > Vertex AI.](https://console.cloud.google.com/vertex-ai/generative/language "Artificial Intelligence > Vertex AI.") ### Prompt Design. There is no best way to design the prompts yet. Generally, there are 3 methods that you can use to shape the model's response in a way that you desired. **Zero-shot prompting** - This is a method where the LLM is given no additional data on the specific task that it is being asked to perform. Instead, it is only given a prompt that describes the task. For example, if you want the LLM to answer a question, you just prompt "what is prompt design?". **One-shot prompting **- This is a method where the LLM is given a single example of the task that it is being asked to perform. For example, if you want the LLM to write a poem, you might give it a single example poem. **Few-shot prompting** - This is a method where the LLM is given a small number of examples of the task that it is being asked to perform. For example, if you want the LLM to write a news article, you might give it a few news articles to read. You may also notice the FREE-FORM and STRUCTURED tabs in the image above. Those are the two modes that you can use when designing your prompt. **FREE-FORM **- This mode provides a free and easy approach to design your prompt. It is suitable for small and experimental prompts with no additional examples. You will be using this to explore zero-shot prompting. **STRUCTURED** - This mode provides an easy-to-use template approach to prompt design. Context and multiple examples can be added to the prompt in this mode. This is especially useful for one-shot and few-shot prompting methods which you will be exploring later. 신속한 디자인 원하는 입력 텍스트를 공급할 수 있습니다 (예 : 모델에 대한 질문. 그러면 모델은 프롬프트를 구성한 방법에 따라 응답을 제공합니다. 모델에서 원하는 응답을 다시 얻기 위해 최상의 입력 텍스트 ( 프롬프트 )을 파악하고 디자인하는 프로세스를 호출합니다 신속한 디자인. 프롬프트를 아직 디자인하는 가장 좋은 방법은 없습니다. 일반적으로 원하는 방식으로 모델의 응답을 형성하는 데 사용할 수있는 3 가지 방법이 있습니다. 제로 샷 프롬프트 -이것은 LLM에 수행해야하는 특정 작업에 대한 추가 데이터가 제공되지 않는 방법입니다. 대신 작업을 설명하는 프롬프트 만 제공됩니다. 예를 들어, LLM이 질문에 대답하도록하려면 "프롬프트 디자인이란 무엇입니까?"라는 프롬프트 만 표시하면됩니다?". 원샷 프롬프트 -이것은 LLM에 수행해야하는 작업의 단일 예가 제공되는 방법입니다. 예를 들어, LLM이시를 쓰도록하려면 하나의 예를 제시 할 수 있습니다. 몇 발의 프롬프트 -이것은 LLM에 수행해야하는 작업의 적은 수의 예가 제공되는 방법입니다. 예를 들어, LLM이 뉴스 기사를 작성하도록하려면 읽을 뉴스 기사를 몇 개 제공 할 수 있습니다. 당신은 또한 무료 정보 과 구조화 위 이미지의 탭. 프롬프트를 디자인 할 때 사용할 수있는 두 가지 모드입니다. 무료 정보 -이 모드는 프롬프트를 디자인하기위한 무료의 쉬운 접근 방식을 제공합니다. 추가 예제가없는 작고 실험적인 프롬프트에 적합합니다. 이것을 사용하여 제로 샷 프롬프팅을 탐색합니다. 구조화 -이 모드는 신속한 설계를위한 사용하기 쉬운 템플릿 접근 방식을 제공합니다. 이 모드에서 컨텍스트와 여러 예제를 프롬프트에 추가 할 수 있습니다. 이것은 나중에 탐색 할 원샷 및 소샷 프롬프트 방법에 특히 유용합니다. ## FREE-FORM mode  ## STRUCTURED mode  # Task 2. Create conversations Create Chat Prompt lets you have a freeform chat with the model, which tracks what was previously said and responds based on context.   # Task 3. Explore prompt gallery