어떤 AI 기능들이 생겼어?

온디바이스 단독 사용이 가능한 앱

S24의 AI 기능들은 향상된 인텔리전스라는 이름으로 탑재 되어있다. 전화앱은 실시간 통역과 텍스트 통화기능을 제공한다. 업무중, 대중교통 탑승과 같은 때 텍스트통화 기능이 유용할것이다. 실시간 통역 기능은 해외 숙박할때 예약하거나 문의시에 활용한 기사가 있으니 참고하길 바란다.¹

삼성키보드에서는 번역, 문장스타일 및 문법 수정기능을 제공한다. 현재는 삼성키보드에서만 해당 기능을 쓸 수 있으니 참고바란다. 철자 및 문법 오류 수정은 설정에 따라 Grammarly라는 별도 앱과 자체LLM 둘 중 하나를 사용하는것으로 보인다.

통역앱은 기사 링크에도 예시가 나오니 속도 및 정확도는 기사를 참고하길 바란다. 유튜버나 기자들에 따르면 GPT 보다 정확도가 떨어지지만 쓸만하다고 평가된다. 우선 음성인식 파트를 평가하면 한국어는 상당히 빠르고 정확하게 인식되나 외국어는 정확도,속도가 약간 떨어진다. 이미 구글과 애플에 유사 앱이 존재하는데 LLM을 사용한다는 점에서 속도 및 인식 정확도에서 차이가 난다. 예를 들어 영어권 방송에 구글어시스턴트를 이용해 통역기능을 써보면 구글어시스턴트는 전혀 인식을 못하고 갤럭시AI는 적당한 인식율을 보인다. 물론 갤럭시 AI도 원어민이 빠르게 말하면 인식 정확도가 떨어지니 참고하길 바란다. 번역 정확도 자체는 구글 번역기와 큰 차이 없어 보인다. 통역 음성은 언어당 2종류밖에 제공되지 않아 조금 아쉽다.

일부기능이 온디바이스에서 제한되는 앱

노트, 녹음, 인터넷은 번역 외에 요약 기능도 제공한다. 해당 앱들의 AI 기능들 역시 기본 앱에서만 적용 된다. 노트는 요약, 번역 외에 자동 서식, 오탈자 수정 등의 기능을 추가로 제공한다. 줄글 형태로 기록된 회의록 등에 알맞은 서식을 적용해준다. 음성녹음은 화자가 여러명일 경우 화자를 구분해주고 해당 대화를 클릭해 구간을 이동할 수 있다. 물론, 인식정확도가 높진 않지만 대화 구간을 구분해주는것만으로도 유용해 보인다. 삼성인터넷에서 사용해본 요약 기능은 영어 기사, 포스트 등을 읽는데 상당히 쓸만하다. 요약 후 번역하면 빠르게 글의 요지를 파악할 수 있다. 인터넷의 경우 유료사이트의 글은 요약할 수 없다. 유료사이트의 글이 학습에 사용되면 안되기때문이다.

갤러리,포토에디터에서 사용 가능한 Generative Edit은 특정 물체를 이동시키거나 삭제 시킬 수 있다. 성능 자체는 기존의 포토샵 등과 큰 차이 없는데 촬영시의 그림자나 빛반사를 편하고 빠르게 지울 수 있어서 좋았다. 이외에도 사진에서 텍스트를 버튼하나로 추출(OCR)하고 번역할 수 있다.

이외 기능의 상세한 작동에 대해서는 공식사이트와 공식유튜브를 참고하길 바란다.

저게 다 온디바이스 라고?

온디바이스 란 기기 내부에서 돌아간다는 의미이다. 당연하지만 위의 기능 모두가 온디바이스 는 아니다. 각 항목을 눌러보면 어떤게 온디바이스로 동작하는지 알 수 있는데 전체적으로 켜고 끌 수도 있다.

해당 옵션을 켤 경우 기기 내부에서만 기능이 동작하되 정확도가 떨어질 수 있다. 직접 확인해보니 음성인식, 번역, OCR기능은 온디바이스로 동작하고 요약, 이미지 관련 AI는 온디바이스에서 구동되지 않는다. 현재 이미지 관련 AI는 구글의 imagen2 모델을 요약에는 제미니 프로 모델을 사용하기 때문이다.²온디바이스 모델은 자체 AI인 가우스 와 구글 제미니 나노가 사용되었다고 알려져 있다.

온디바이스 모델은 서버와의 데이터 송수신 과정이 없기때문에 응답성이 빠르고 서버비를 절약할 수 있다. 사용해보니 구글,애플의 기본앱보다 음성인식 속도,정확도가 훨씬 개선되었다. 이러한 성능 개선은 해당 작업들에 NPU가 사용되기때문에 가능했고 다른 온디바이스 LLM과 차별성을 가진다. 그리고 공식앱들로 출시된만큼 완성도, 편의성, 유지보수 측면에서 비교하기 힘들다.

NPU의 성능은 MLperfV2.1 기준 S23 대비 Exynos2400에서 평균 30%정도 성능이 향상되었다. 아직 울트라 모델의 성능은 공개되지 않았지만 선공개된 V3.1 벤치를기준 8gen3은 Exynos2400 대비 평균 약 6% 정도 성능이 좋다. 엑시노스에는 NNAPI 이외에 학습에 사용가능한 NN툴킷이 따로 존재하고 성능을 더 개선하기 위한 프로젝트들을 진행중이다.

한가지 단점은 25년 이후 부분유료화가 될 가능성이다. 제미니 API 자체가 구글클라우드에서 동작하고 유료이기때문에 사용료 계약을 맺었을 것이다. 자체모델이나 온디바이스 모델을 사용하더라도 서버비, 유지보수비는 피할 수 없다. 소비자 측면에서 아쉽지만 GPT, 코파일럿 등 대부분 AI 제품들은 구독, 부분유료화 모델을 사용중이다. 번역,음성인식, OCR 기능은 인터넷이 없어도 동작하기때문에 유료화 대상에서 빠질 것으로 보인다.

결론

• 갤럭시 AI는 음성인식,번역,요약,OCR,생성형 편집이가능함
• 온디바이스는 음성인식,번역,OCR에 사용됨
• 구글/애플 기본앱보다 편의성,속도,정확도 측면에서 향상됨

여담

온디바이스 모델들은 양자화 등 각종 기법으로 모델의 효율성을 증대시켰다. 제미니 나노도 3.2B에 불과하지만 7B 모델 이상의 성능을 낼 수 있다. 제미니 나노까지는 S24 노말 모델에도 적용 가능하나 추후 만들어질 더 높은 성능의 서드파티 앱들은 8GB 안에 넣기어려울 수 있다.

1. 실시간 통역기사, 데일리안 ︎
2. 구글 보도자료 ︎

함께보면 좋은 글

• S24 모델 별 스펙 정리 비교
• S24 엑시노스 전성비 분석

The post 온디바이스 AI 가뭐야? – S24 appeared first on JIN's BOT.

24년 1월 18일, 갤럭시 S24 의 언팩행사가 열렸다. 이후 벤치마크 결과 등 여러가지 정보가 공개되면서 많은 이들의 관심을 끌고 있다. 이에 따라, 이 포스트에서 갤럭시 S24에 대한 다양한 정보를 정리하고자 한다. 특히, Geekbench6 결과를 바탕으로 모델별 성능 차이, 아이폰과의 성능 차이를 통계적으로 분석해보았다.

스펙 비교

기존에는 노말 제품과 플러스 제품의 차이가 디스플레이,무게말고 거의 없었지만 S24 에서는 꽤 차이가 크다. 그중에서도 디스플레이, 배터리는 사용자 경험에 꽤 영향을 줄만한 요소이다. 디스플레이 종류는 같지만 PPI(Pixel Per Inch)가 418/516 으로 꽤 차이나기때문에 체험해 보면 확실히 느껴진다. 반면, UWB는 아직 탑재된 차량과 도어락이 한정적이기때문에 중요한 차이로 생각되진 않는다.

노말 모델은 램이 8GB 인데 중국 등 해외판에는 12GB 옵션도 존재한다. 램 용량이 크면 리프레시가 줄어들지만, 일반 사용자들은 차이를 체감하기 어렵다. 기업 입장에서 모델 및 생산라인을 단순화 하는건 어쩔수 없지만 국가간 차등은 아쉽다. 게다가 온디바이스 AI 기술이 발전하면서 점차 더 많은 램이 필요하게 될 전망이다.

S24 울트라의 변화점은 광학줌 너프, 티타늄프레임, 디스플레이 재질/코팅 강화를 꼽을 수 있다. 센서가 더 커졌지만 광학줌이 5배로 너프되면서 고배율 촬영에 SW/AI 보정기술을 적용 중이다.하지만 물리적인 렌즈 차이를 극복하긴 힘들기때문에 10배이상에서 유의미한 차이가 발생한다. 현재 동영상, 사진 촬영 시 몇가지 문제들이 확인되었고 개선 SW가 곧 업데이트 된다.

디스플레이는 재질도 고릴라아머로 변경되었고 최대 밝기도 1000니트가량 향상되었다. 또한 새롭게 적용된 반사방지 코팅 성능이 매우 우수하여 강화된 AOD와 함께 좋은 평가를 받고있다.¹ 많은 이들이 디스플레이를 울트라의 최대 강점 중 하나로 꼽고 있다. 플러스(S24+) 모델과 울트라 모델은 S펜, 카메라, 디스플레이, AP에 차이가 크기때문에 자신의 중요도와 비교하여 선택하는 걸 추천한다.

공통 개선점

모든 모델에서 배터리 타임이 비디오 재생 기준 4시간이상 향상되었다. 새로운 디스플레이에 적용된 LTPO기술로 주사율을 1Hz까지 낮출 수 있고 소비 전력도 줄여준다. 따라서 AOD를 상시 켜놓더라도 배터리 소비는 시간당 0.5~1%에 불과한다.² 또한 베이퍼 챔버 면적이 전세대보다 상당히 커지고 패키징 방식, 열전달 물질이 변경되었다. 후술하겠지만 이러한 방열개선덕분에 큰 폭으로 성능이 향상됐다. S24 에서 빼놓을 수 없는 개선점이 AI 다. 갤럭시에는 자체 개발 모델인 가우스와 구글의 제미니 가 AI 모델로 탑재된다. 제공하는 주요 기능에는 ‘실시간 음성/문자 번역‘, ‘문장 제안 ’, ‘요약 ’, ‘AI 이미지 생성/편집/검색’ 등이 있다.³ 사람들이 가장 관심을 보였던 건 실시간 번역기능으로 정확도가 높진 않아도 꽤 빠른속도로 번역된다.⁴ NPU는 카메라 SW에도 적용되어 셔터랙을 S23보다 크게 개선하였다.

이외에 AI 관련 자세한 내용은 다음 포스트에서 다루겠다.

S24 본격 비교

S24 CPU 엑시노스를 어떻게 믿어?

출시 전 노말/플러스 모델에 사용된 엑시노스에 대한 우려가 컸다. 하지만 벤치 결과가 공개되면서 그러한 걱정도 점점 해소되는 중이다. 아직도 결과를 믿지 못하는 분들 그리고 자신의 폰을 벤치마킹 하고싶은 분들을 위해 이 섹션을 준비했다. 사용된 벤치마크 툴은 ‘Geekbench6 ’이고 다른 글들과 달리 Geekbench 결과를 크롤링하여 통계를 내보았다.

우선 가장 중요한 결과를 BoxPlot 해보면 위와 같다. 박스는 Q1값(25%),Q3값(75%)을 나타내고 whisker는 outlier를 제외한 Min,Max 값을 나타낸다. outlier는 대부분 쓰로틀링이 걸린 상황이다. 자신의 Geekbench6 점수가 해당모델의 Q1보다 낮다면 하위 25%인 아쉬운 친구로 이해하자. 명확하게 비교하기 위해 아이폰의 성능을 100%로 놓고 각 모델별 성능을 비교해 보자.

이를 통해 알 수 있는 정보는 다음과 같다.

1. S24 전모델 점수 분포 안정적임
2. S24는 S23U보다 유의미하게 개선됨
3. 플러스 (S24+) 와 노말 모델 간 차이 적음 2.7%
4. 플러스( 엑시노스 2400 ) 와 울트라 모델 ( 스냅드래곤 8gen3 ) 간 차이 5%
5. S24 울트라와 아이폰15프로맥스 성능 차이 4.4%

아이폰 간판모델과 S24 울트라 의 점수 차이가 5%도 안난다는 점에서 놀라는 사람들이 많을것이다. 울트라와 사이즈가 비슷해서 프로맥스 모델을 비교군으로 골랐지만 프로모델의 점수가 더 높다는걸 감안해야 한다. 한편, 엑시노스 2400 과 스냅드래곤 8gen3 의 성능차이가 약 5%에 불과해 선방중이다. 싱글코어 점수는 아이폰이 훨씬 우수하고 모델간 편차는 위와 비슷하다.⁷ 온도,전성비도 같이 비교하면 좋겠지만 GeekBench 사이트에서 확인할 수 없었다. 공개된 정보에 따르면 두가지 다 나쁘지 않은 수준이다.⁸ 엑시노스2400의 전성비는 8gen2 와 8gen3 중간으로 추정된다.

유명 인플루언서 골댕좌의 리뷰에서는 8gen2보다 전성비가 떨어지는걸로 나오는데 벤치프로그램 차이때문일 수 있다. 기존 유튜버들은 전성비 검증에 Geekbench를, 골댕좌는 SPEC을 사용하는데 둘의 구성내용이 상이하다. 정리하자면 개개인의 사용패턴에 따라 전성비 부분은 달라질 수 있다. 자세한 이야기는 새로운 포스트에 정리했다.

GPU 및 NPU

3DMark나 원신으로 평가하는데 공개된 결과도 CPU와 크게 다르지 않다.⁹ 3DMark 점수는 오히려 24 모델들이 15프로맥스를 상회하는 반면 원신에서의 FPS는 떨어진다. 원신과 같은 모바일 게임들은 Vulkan API에 대해 최적화되지 않았기때문에 OpenGL을 사용한다. 그런데 S24의 AMD GPU는 OpenGL을 Native로 사용할 수 없고 ANGLE API를 통해 Vulkan으로 번역한다. 현재 번역과정 중 손실로 벤치마크 대비 실성능이 떨어지지만 향후 ANGLE 이 최적화 되면서 실성능도 향상될 것이다. 공개된 원신벤치자료에 따르면 프레임 드롭 역시 직후에 정상 FPS로 회복되기때문에 API의 문제로 보인다. 레이트레이싱은 mRDNA3 기술이 접목되어 벤치마크, 실성능 둘다 아이폰보다 뛰어나다. 하지만 안타깝게도 이를 활용한 게임이 많이 없어 소비자가 체감하긴 힘들다.

NPU의 경우 MLperf V2.1 기준 S23대비 엑시노스2400은 평균 30%정도 성능이 향상되었다. 아직 울트라 모델의 MLperf 성능은 공개되지 않았지만 선공개된 V3.1 벤치들을 기준으로 계산해보면 엑시노스2400 대비 8gen3은 평균 약 6% 정도 성능이 향상되었다.

가성비 최고 AP를 찾아라

이번에는 AP 가성비를 비교해보자. 멀티코어 평균 점수를 출고가격을 기준으로 나누어 보았다.

이전보다 가격대비 멀티코어 성능이 크게 향상된 건 고무적인 성과이다. 특히 노말 모델의 가성비가 뛰어났는데 모델 간 AP성능 편차가 가격 차이보다 적다는 의미이다. 퀄컴의 스냅드래곤은 8gen2 에서 이미 160$에 달했고 계속 가격을 올렸기 때문에 엑시노스에 사활을 걸 수 밖에 없었다. 엑시노스2400 적용은 삼성에게도 모험이었으나 생산자, 소비자 둘다에게 Win-Win이 되었다. 실사용까지 고려할 때 엑시노스 2400의 성능은 8gen3보다 약간 떨어지지만 가성비는 오히려 더 뛰어나다.

위 결과와 별개로 모델 간의 옵션차이가 심하기때문에 AP가성비가 제품 가성비를 의미하지는 않는다. 따라서 중요하게 참고하되 위에 적은 모델 간 차이점을 같이 고려하길 바란다. 플러스 모델은 아이폰 15프로맥스와 스펙이 비슷하기 때문에 가성비가 더 좋은것으로 보인다.

결론

• S24 는 S23 대비 성능, 옵션 면에서 크게 개선되었다.
• 갤럭시 의 전체적인 성능이 애플 기기에 근접했다.
• 모델 간 편차가 큰 편이니 잘 알아보고 구매하라

구매의 적기는 언제?

번호 이동 시에는 변수가 워낙 많기때문에 자급제 기준으로 이야기하겠다. 사전예약에 존재하는 더블스토리지 혜택은 512기가 기준 15만원, 1테라 기준 28만원의 효과를 가진다. 그외에도 각종 혜택이 붙어있기때문에 S23 역시 사전예약 때보다 할인 된 경우는 한번도 없었다. 스토리지를 많이 안 쓰더라도 감가에 영향을 주기때문에 꼭 사전예약으로 구매하길 추천한다. 사전예약은 여러 경로에서 가능한데 좋은 혜택은 스팟성으로 반짝 할인하므로 커뮤니티를 예의주시 해야한다. 사전예구 혜택 중 하나는 삼성케어플러스와 버즈할인권인데 금전적 가치는 삼케플이 더 높다.

1. 이미지링크 ︎
2. 유튜브 ︎
3. 링크 ︎
4. 데일리안, 인터넷뉴스 ︎
5. S24는 24년 결과, S23U와 프로맥스는 최근 250개 결과 ︎
6. 24년1월 23일 기준 ︎
7. GeekBench6 싱글코어 점수 비교 ︎
8. 링크 ︎
9. 3DMark WildLife Extreme비교,(원신벤치, 번역) ︎
10. 아래 표 참조 ︎

관련글

• S24 전성비에 대해
• 온디바이스 AI 에 대해

The post S24 모델별 스펙 및 AP성능 appeared first on JIN's BOT.

이전글에서 chatGPT 와 동일한 GPT 3.5의

python api에 대해 알아봤다.

분명 유용한 툴이지만 세상을 바꿀 정도일까?

chatGPT 의 단점에 대해 알아보자.

최적의 답변이 아니다.

GPT에는 별도의 지능이 없기때문에

학습된 데이터가 옳은지 틀린지 얼마나 좋은지 평가할 수 없다.

따라서 학습 시킨 데이터의 질에 따라

답변의 질도 결정된다.

또한, 내용을 조합하여 답변하기 때문에

이 과정에서 오류가 섞여 들어갈 수 있다.

특히, 코딩 측면에서 이런 점이 두드러진다.

chatGPT 가 제공해 주는 코드, 예제는

분명 유용하지만 수준이 높지 않다.

이러한 불완전성은 기술적 특성이자 한계이고

애초에 노코드 , 로우코드 솔루션의 목적은 다음과 같다.

1. 초보자의 손쉬운 사용
2. 단순 반복 코드의 작성 시간 단축

따라서 chatGPT 가 현업 프로그래머를 대체할 수는 없다.

최적의 코드를 제공하지 못하는게 당연하고

이에 대해 불평한다면 기술의 목적,용도를

잘못 이해한 것이다.

애초에 목적

현업 프로그래머를 대체하는

애초에 chatGPT 나 copilot의 목적은

프로그래머를 대체하는 것이 아니다.

추가적인 학습이 어렵다.

chatGPT 의 잘못된 응답에 지적을 할 경우

사람처럼 오류를 인정하고 내용을 정정한다.

실시간 학습이 이루어진다고 착각할 수 있지만

상황에 맞게 반응하는 것일 뿐이다.

좋은 내용을 선별하여 학습 된다고 하지만

언제 어떤 방식으로 이루어지는지 알려진 바 없다.

물론 chatGPT 도 추가 학습을 위한 api 를 공개하겠지만

생각보다 비용이 비쌀 것이다.

현재 같은 GPT3.5 인 Davinci 의 추가학습 모델은

사용시 1k token(750단어)당 0.12불의 비용을 지불해야한다. (23년 2월)

개인에게 부담되는 가격은 아니지만 사용자가 수십명만 되어도

상당한 비용이 발생할 것이다.

저작권 및 기밀정보 문제

공개적으로 코드, 정보를 올린거지만

출처표기 없는 상업적 사용을 달가워할 사람은 없다.

그런 면에서 구글의 바드 는 정보의 출처를

표기할 것이라고 한다.

현재 GPT3.5 모델은 openai를 통해서만 학습 시킬 수 있는데

기업의 경우 기밀 정보 유출에 대한 우려가 있다.

따라서 삼성전자 는 정보 유출을 막기 위해

chatGPT 의 접속을 차단했다.

당연히, 별도 학습된 모델은 특정 계정, 회사에서만

접근할 수 있을 것이다.

그렇더라도 기업입장에서 서버를 외부에 두는것은 큰 부담이다.

chatGPT 대체재

그러면 local 등 에서 사용할 수 있는 chatGPT의 대안들을 알아보자.

모델이름 뒤에 있는 숫자는 parameter의 개수를 나타내며

일반적으로 높을수록 성능이 더 좋은 대신 고사양을 요구한다.

GPT-J 6B

eleutherAI에서 Ben Wang의 JAX를 기반으로 Pile 이라는 데이터셋으로 만든 모델이다.

자체적인 평가 결과 GPT3 Curie와 유사한 성능을 가진 것으로 보인다.

자세한 설명은 huggingface에서 볼 수 있고 간단한 체험도 해볼 수 있다.

최소 12GB의 VRAM이 필요하다.

low vram 버전도 있지만 성능 손실이 존재한다.

GPT-NEOX 20B

eleutherAI 의 최신 모델로 전작 GPT-NEO를 계승하고 있다.

자체 평가에 따르면 Curie보다는 좋지만

GPT3.5 모델인 Davinci에 미치지는 못한다.

textsynth, eleutherAI에서 테스트해볼 수 있다.

최소 40GB의 vram이 필요하기때문에 여기서부터는

A40, A100, RTX A6000 이상이 필요하다.
A100(40G)의 경우 미국 온디맨드 기준 AWS가 시간당 4.1$

GCP가 시간당 3.67$이므로 클라우드에서 구현하는걸 추천한다.

azure 등 더 저렴한 곳도 있으니 자세한 가격은 이 링크를 참고하라.

OPT-175B : chatGPT 에 가장 근접

meta ( facebook) 에서 공개한 모델로 GPT3.5와

동일한 parameter 갯수를 가진다.

현재 API를 완전히 공개하였으며 비상업용, 연구적 목적에

한하여 자유롭게 사용할 수 있다.

링크에서 체험해 볼 수 있으며 데이터셋, 알고리즘의

차이때문인지 davinci 보다는 성능이 떨어진다.(논문)

클러스터 구성을 지원하며 총 350GB의 VRAM이 필요하고

최대 700GB의 RAM이 필요하다.

관련글

• GPT3.5 Turbo – ChatGPT python API 소개
• chat GPT 하이브리드 앱 만들기 C# python
• GPT-4 뭐가 달라 졌을까?
• 빙 생성 AI 까지 넘보는 중

The post chatGPT 한계점과 대체재에 대해 appeared first on JIN's BOT.

12Billion (120억)개의 paramter를 가지는것이 특징이고

Github Copiliot에 사용되어 유명해졌다.

최근 각광받는 chatGPT 가 GPT-3.5 에 해당하며

무려 170B( 1700억) 개의 parmeter를 가진다.

chatGPT는 23년 2월 기준 아직 python api 가 공개되지 않았지만

같은 GPT-3.5에 속하는 davinci 모델은 python에서 사용 가능하다.

text-davinci-003 는 21년 4분기까지의 데이터로 학습되었기 때문에

chatGPT 에 비해 약간 떨어지지만 충분히 훌륭한 성능을 보여준다.

그래서 사용법은?

이 링크에서 회원가입이 가능하고 문서도 잘 만들어져 있다.

openai 패키지 사용법은 해당 문서에 잘 나와 있으니

패키지 없이 사용하는 법을 설명하겠다.

우선 가입 후 링크에 들어가 api-key를 발급받는다.

api 키만 있으면 코드는 정말 간단하다.

import requests
import json
headers={"Authorization":"Bearer 발급받은API키","Content-Type":"application/json"}
link="https://api.openai.com/v1/completions"
data={"model": "text-davinci-003", "prompt": "let me know how to cook scones ", "temperature": 0.9, "max_tokens": 300}
res=requests.post(link,data=json.dumps(data),headers=headers)
print(res.json()['choices'][0]['text'])

input에 대해 설명하자면 다음과 같다.

• link:질문에 해당하는 링크이며 image 생성 등에는 다른 링크가 필요하다.
• prompt: 질문이나 요청을 적으면 된다.
• temperature: 높을수록 창의적이지만 부정확한 답이 출력될 수 있다. (기본값:1)
• top_p: 방법은 다르지만 temperature와 같은 역할, temperature와 top_p 둘 중 하나만 사용 (기본값:1)
• max_tokens: 답변 문장의 최대 길이를 결정함
• 이외는 링크 참조바람

GPT 3.5 사용결과

상식

질문
: let me know how to cook scones.

Ingredients

• 3 cups all-purpose flour
• 1 tablespoon baking powder
• 1/2 teaspoon salt
• 3/4 cup butter, melted
• 2 eggs
• 1/2 cup milk
• 1/2 cup sugar

Directions

1. Preheat oven to 400 degrees F (200 degrees C). Grease a baking sheet.
2. In a large bowl, sift together flour, baking powder and salt.
3. In a separate bowl, stir together melted butter, eggs and milk.
4. Make a well in the center of the flour mixture, and pour in the wet ingredients.
5. Stir together until a soft dough forms. Stir in sugar.
6. Roll out dough on a lightly floured surface, and cut into desired shapes (e.g. circles or wedges).
7. Place on prepared baking sheet, and bake for 10 to 12 minutes. Remove from oven, and cool. Serve warm.

굽는 시간, 재료의 양에 차이가 있지만 충분히 조리 가능한 레시피이며

chatGPT로부터 받은 답변도 대동소이 했다.

코딩

질문: suggest me top 5 alternatives of pyqt.

1. GTK+
2. wxPython
3. Kivy
4. Tkinter
5. PySide

사용가능한 라이브러리들을 잘 보여준다.

ChatGPT 에 물어보면 부연설명을 넣어주지만 pyside가 빠지는 점이 아쉽다.

질문: What ’s the difference between pyside and pyqt

PySide and PyQt are both Python bindings for the popular Qt cross-platform application and UI framework. The main difference between the two is that PySide is free and open source, while PyQt is proprietary and subject to a commercial license. PySide also has a more liberal license than PyQt, which allows developers to use it for both open source and commercial projects. PySide also has a more modern API, which makes it easier to use than PyQt.

마지막에 엉뚱한 말이 붙었지만 전반적으로 핵심을 잘 파악한 훌륭한 답변이다.

chatGPT가 community 규모에 대해 좀 더 정확한 정보를 덧붙였다.

질문: can you give me streamlit example for python? It ’s for drawing graph

import streamlit as st
import matplotlib.pyplot as plt

#Create some data

x = [1, 2, 3, 4, 5]
y = [2, 4, 6, 8, 10]

#Create the plot

plt.plot(x, y)

#Add the plot to the Streamlit app

st.pyplot()

pyplot의 argument가 빠졌다는 warning이 뜨지만 잘 plot 된다.

chatGPT 의 답변에는 무의미한 코드가 한줄 있지만 좀 더 상세했다.

GPT 3.5 단점은 없어?

현재 Davinci 모델은 유료이며 1k token(750 단어)당 0.02$의 사용료가

책정되어있다. 그리고 돌아올 수 있는 답변은 최대 4000token(3000단어)이다.

저렴한 가격이지만 chatGPT가 앞으로도 무료 서비스를 제공한다면

일반 사용자에게 merit이 떨어 진다.

또한 chatGPT와 달리 답변에 추가적인 질문이 불가능하다.

유료면 이걸 왜써?

가입시 3개월간 사용가능한 18$의 credit을 제공하기때문에

계정을 만들어가며 사용하면 무한대로 사용이 가능 하다.

게다가 현재 davinci모델은 추가학습( fine-tuning) 이 가능하다.

즉, 업체나 개인별로 자신에게 필요한 데이터 일부를

추가적으로 학습시킬 수 있는 강력한 기능을 제공한다.

현재 chatGPT 는 추후 활용을 위해 피드백을 수집할 뿐

추가적으로 학습이 이루어지지 않는다.

GPT3.5의 추가 학습 및 사용에는 각각

1k token 당 0.03$,0.12$의 비용이 부과된다.

그렇다면 학습에 별도 비용이 발생하지 않는 대체재는 없을까?

다음글에서 chatGPT의 한계점을 짚어보며 대체재에 대해 소개하겠다.

ChatGPT의 python API가 출시 되었다. (23.03.01)

GPT3.5 Turbo – ChatGPT python API 소개

chat GPT 하이브리드 앱 만들기 C# python

관련글

GPT-4 뭐가 달라 졌을까?

빙 생성 AI 까지 넘보는 중

The post GPT-3.5 python에서 사용하기 appeared first on JIN's BOT.