생성AI Archives - JIN's BOT

빙 생성 AI 까지 넘보는 중

geniuskpj — Thu, 23 Mar 2023 10:12:48 +0000

뉴 빙 OR 빙챗

빙 에 앞서 지난 글에서 GPT-4 에 대해 소개했다.

유료 사용자에게만 공개된 GPT-4 를

무료 로 사용해볼 방법 은 없을까?

다행히 존재하는 딱 한가지 수단이 바로 뉴 빙 이다.

마이크로소프트는 3월 14일 공식 블로그 를 통해

뉴 빙 에서의 GPT-4 의 사용을 공식화 했다.

물론 chat GPT 에 사용되는 것과 동일한 모델은

아니고 검색 엔진에 맞게 Fine Tune 되어있다.

공식 문서에서도 ‘뉴 빙 ‘과 ‘빙챗 ‘

두가지 이름이 혼용되고 있다.

공식 명칭은 뉴 빙 이 맞으며 빙챗 은

이에 속하는 기능 중 하나로 보면 된다.

뉴 빙 은 신청자에 한해 체험해볼 수 있고

나는 몇분 안되어 등록되었다.

뉴 빙 특징 , 차이점

가장 큰 차이점은 웹 크롤링 여부이다.

빙에 사용된 모델 프로메테우스 는

웹 크롤링이 가능하다.

따라서 GPT 에 비해 최신 정보를 제공하고

학습되지 않은 정보에 대해서도 답변할 수 있다.

대신 GPT-4 를 사용하기때문에 GPT-3.5를 사용하는

chatGPT 에 비하면 답변이 다소 느리다.

그리고 크롤링 된 정보는출처를 명확히 링크로 첨부해준다.

사용자는 출처를 보고 정보의 사실, 최신 여부를 판단 가능 하다.

물론, 모든 페이지가 빙 에서 크롤링 되는 것은

아니고 단순 블로그 글도 참조하니 너무 믿지는 말자.

무료인 만큼 채팅횟수 에 제한이 있다.

채팅은 하루당 150개, 세션당 15개 로 제한된다.

어차피 15번 이상 대화가 지속될 일도 거의 없고 뉴 빙 의

특성 상 대화가 길어질수록 이상한 답변을 할 가능성이 높아진다.

빙챗 은 GPT의 Temperature에 해당하는Tone을

창의적 , 균형 잡힘, 정확함 중에 고를 수 있다.

찾고자하는 정보 앞에 #search 를 앞에 붙이면

검색 모드가 되어 좀 더 정확하고 최신 정보를 제공해준다.

뉴 빙 코파일럿 기능까지?

엣지 사이드바

엣지를 최선버전으로 업데이트하면 뉴빙 을

사이드바에서 사용할 수 있다.

단순 채팅 기능 뿐만 아니라 두가지 기능이 추가 되었다.

첫번째는 초안 작성 기능이다.

작성할 주제, 톤, 포맷, 길이에 대한 지정이 가능하다.

기본 포맷은 일반 글, 이메일, 블로그, 개괄형 4가지가 제공된다.

영어로 주제를 던져주면 쓸만한 퀄리티의 글이 작성된다.

한글로도 잘 되지만 학습자료가 부족한만큼 퀄은 조금 떨어진다.

두번째 기능은 분석 및 요약이다.

일반 페이지의 경우 해당 사이트나 페이지의

연관페이지, 평가 및 트래픽을 보여준다.

그리고 CNN, 뉴욕 타임즈, 워싱턴 포스트와 같은

영어권 주요 매체들은 요약 기능까지 제공한다.

기사를 클릭해보면 해당 기사에 대한

요약, 연관 Q &A를 표시해준다.

안타깝게도 한글 매체는 요약 기능을 지원하지않았다.

확인해보니 중앙일보, 조선일보 영문 사이트 정도에서

Q &A 기능이 활성화되었다.

이미지 생성 기능

3월 21일 기준 빙 의 이미지 생성 기능 이

대중들에게공개되었다.

뉴빙 신청자의 경우만 사용할 수 있고

이 링크에서 서비스를 이용할 수 있다.

한 때 생성 AI 붐을 일으켰던 DALL E 를

빙 에서도 사용할 수 있게 되었다.

최상단 이미지가 “Screen Headed Robot, Anime cartoon ”이라는

프롬프트 결과물을 살짝 수정한 것이다.

제공되는 그림은 JPG, 1024 x 1024px로 저장하거나 공유할 수 있다.

부스트 코인이 있을 때는 수초 내에 결과물이 나오고

없을때는 최대 45초까지 걸릴 수 있다고 한다.

현재는 사용자가 적어 코인이 없어도

10초이내에 그림이 나온다.

일주일에 10개의부스트코인을 제공하고

검색 등 다양한 행위의 리워드로 추가 코인을 받을 수 있다.

체험자가 늘기전에 체험해보길 추천한다.

오피스와 코파일럿의 결합

위 유튜브 와 공식 블로그를 통해 오피스 365 에

차세대 생성 AI가 적용될것이라 발표 했다.

간단한 명령어 만으로 초안, 템플릿 등의

생성이 가능해 업무 효율을 크게 올려줄 것이다.

어느정도 까지 가능할 지 대중들의 반응이 뜨거운 가운데

현재 20개 고객사에서 베타 테스트중이다.

마이크로소프트 365 구독자에게 제공될 것으로 보인다.

Github처럼 코파일럿 기능에 추가적인 비용이

발생할 것으로 보이나 아직 확정된 것은 없다.

The post 빙 생성 AI 까지 넘보는 중 appeared first on JIN's BOT.

GPT-3.5 python에서 사용하기

geniuskpj — Tue, 07 Feb 2023 09:27:43 +0000

GPT-3 는 OpenAI 가 개발한 대형 언어 모델 (Large Language Model, LLM )이다.

12Billion (120억)개의 paramter를 가지는것이 특징이고

Github Copiliot에 사용되어 유명해졌다.

최근 각광받는 chatGPT 가 GPT-3.5 에 해당하며

무려 170B( 1700억) 개의 parmeter를 가진다.

chatGPT는 23년 2월 기준 아직 python api 가 공개되지 않았지만

같은 GPT-3.5에 속하는 davinci 모델은 python에서 사용 가능하다.

text-davinci-003 는 21년 4분기까지의 데이터로 학습되었기 때문에

chatGPT 에 비해 약간 떨어지지만 충분히 훌륭한 성능을 보여준다.

그래서 사용법은?

이 링크에서 회원가입이 가능하고 문서도 잘 만들어져 있다.

openai 패키지 사용법은 해당 문서에 잘 나와 있으니

패키지 없이 사용하는 법을 설명하겠다.

우선 가입 후 링크에 들어가 api-key를 발급받는다.

api 키만 있으면 코드는 정말 간단하다.

import requests
import json
headers={"Authorization":"Bearer 발급받은API키","Content-Type":"application/json"}
link="https://api.openai.com/v1/completions"
data={"model": "text-davinci-003", "prompt": "let me know how to cook scones ", "temperature": 0.9, "max_tokens": 300}
res=requests.post(link,data=json.dumps(data),headers=headers)
print(res.json()['choices'][0]['text'])

input에 대해 설명하자면 다음과 같다.

link:질문에 해당하는 링크이며 image 생성 등에는 다른 링크가 필요하다.
prompt: 질문이나 요청을 적으면 된다.
temperature: 높을수록 창의적이지만 부정확한 답이 출력될 수 있다. (기본값:1)
top_p: 방법은 다르지만 temperature와 같은 역할, temperature와 top_p 둘 중 하나만 사용 (기본값:1)
max_tokens: 답변 문장의 최대 길이를 결정함
이외는 링크 참조바람

GPT 3.5 사용결과

상식

질문
: let me know how to cook scones.

Ingredients

3 cups all-purpose flour
1 tablespoon baking powder
1/2 teaspoon salt
3/4 cup butter, melted
2 eggs
1/2 cup milk
1/2 cup sugar

Directions

Preheat oven to 400 degrees F (200 degrees C). Grease a baking sheet.
In a large bowl, sift together flour, baking powder and salt.
In a separate bowl, stir together melted butter, eggs and milk.
Make a well in the center of the flour mixture, and pour in the wet ingredients.
Stir together until a soft dough forms. Stir in sugar.
Roll out dough on a lightly floured surface, and cut into desired shapes (e.g. circles or wedges).
Place on prepared baking sheet, and bake for 10 to 12 minutes. Remove from oven, and cool. Serve warm.

굽는 시간, 재료의 양에 차이가 있지만 충분히 조리 가능한 레시피이며

chatGPT로부터 받은 답변도 대동소이 했다.

코딩

질문: suggest me top 5 alternatives of pyqt.

GTK+
wxPython
Kivy
Tkinter
PySide

사용가능한 라이브러리들을 잘 보여준다.

ChatGPT 에 물어보면 부연설명을 넣어주지만 pyside가 빠지는 점이 아쉽다.

질문: What ’s the difference between pyside and pyqt

PySide and PyQt are both Python bindings for the popular Qt cross-platform application and UI framework. The main difference between the two is that PySide is free and open source, while PyQt is proprietary and subject to a commercial license. PySide also has a more liberal license than PyQt, which allows developers to use it for both open source and commercial projects. PySide also has a more modern API, which makes it easier to use than PyQt.

마지막에 엉뚱한 말이 붙었지만 전반적으로 핵심을 잘 파악한 훌륭한 답변이다.

chatGPT가 community 규모에 대해 좀 더 정확한 정보를 덧붙였다.

질문: can you give me streamlit example for python? It ’s for drawing graph

import streamlit as st
import matplotlib.pyplot as plt

#Create some data

x = [1, 2, 3, 4, 5]
y = [2, 4, 6, 8, 10]

#Create the plot

plt.plot(x, y)

#Add the plot to the Streamlit app

st.pyplot()

pyplot의 argument가 빠졌다는 warning이 뜨지만 잘 plot 된다.

chatGPT 의 답변에는 무의미한 코드가 한줄 있지만 좀 더 상세했다.