Meta에서 출시한 Llama 3가 상당한 주목을 받고 있습니다. 이전에도 Llama 2를 발매하며 AI 서비스를 이어갔지만, 이번에 출시된 Llama 3는 Llama 2가 출시됐을 때와는 완전히 다른 반응을 보이며 사람들의 이목을 끌고 있습니다.
Llama 3를 겪어본 몇몇 사람들은 Open AI의 Chat GPT를 뛰어넘는 성능이라며 극찬을 아끼지 않았는데요.
AI에 막대한 투자를 예고하며 작정하고 만든 Llama 3는 얼마나 뛰어나길래 이런 이목을 받는 걸까요? 과연 AI의 대명사 Chat GPT의 성능을 뛰어넘을 수 있을까요? 대한민국 No.1 IT 인재 매칭 플랫폼 이랜서에서 확인해 보겠습니다!
Llama3(라마3)란?
Llama3, 라마 3는 2024년 4월 18일 페이스북의 모회사인 메타에서 출시한 오픈 소스 로컬 기반 LLM 모델로 8B, 70B, 400B+의 세 가지 모델로 출시되었습니다.
참고로 ‘B’는 Billion의 약자로, 10억을 뜻하며, 이는 LLM의 성능을 나타낸다고 봐도 무방한 파라미터의 개수를 의미합니다.
8B 모델이 최소 모델이고, 400B+ 모델이 최대 모델인 셈인데, 현재까지는 최대 모델인 400B+ 모델을 제외한 8B, 70B 모델만 공개하고 있습니다. 최대 모델인 400B+ 모델은 아직 학습 중인 것으로 알려져 있습니다.
Llama3, 왜 이슈인가?
Llama3가 이슈인 이유는 다양하지만 다른 무엇보다도 성능과 비용, 그리고 보안 차원에서 특히 이슈가 되고 있는데요. 성능부터 하나씩 이슈가 되는 이유를 말씀드리겠습니다.
성능
Llama 3는 현존하는 LLM 모델 중 그 성능이 손에 꼽히게 뛰어난 편은 아닙니다. 성능은 GPT-3.5에 필적하거나 GPT-4에는 못 미치는 수준이죠.
MMLU나 GLUE score 같은 대표적인 벤치마크 성능에서도 GPT-4와 같은 유명한 모델에 비하면 떨어지는 모습을 보입니다.
그럼에도 불구하고 Llama3가 이슈가 되는 이유는 학습에 소모된 파라미터의 양이 GPT 모델에 비해 상대적으로 적기 때문입니다.
파라미터의 양이 적다는 점은 곧 클라우드 기반이 아닌 온 디바이스 AI 형태로도 쓰일 수 있다는 것을 시사합니다.
이는 누구나 적당한 사양의 PC만 갖춘다면 인터넷 연결 없이도 GPT-3.5 수준 이상의 인공지능을 사용할 수 있다는 뜻이기에 이슈가 될 수밖에 없었죠.
비용 & 보안
Llama 3는 오픈 소스로 무료로 사용할 수 있습니다. 본인이 원하는 기능의 챗봇으로 커스터마이징 해놓는다면 무료로 계속 사용할 수 있다는 이점을 챙길 수 있습니다.
보안 또한 오픈 소스라는 측면에서 받을 수 있는 혜택입니다. GPT나 Claude 같은 클라우드 기반 AI들은 그들의 컴퓨팅 파워로부터 의지하기 때문에 보안적인 면에서 염려되는 부분이 있으나, Llama3의 경우에는 사용자에게 그 권한이 부여되어 보안상의 자유도가 높아지게 됩니다.
Llama 3 사용 방법 - 정식 루트와 무료 사용방법
Llama 3가 이슈가 되는 이유를 알아봤으니 이번에는 사용법을 알아보겠습니다. 메타에서는 클라우드 기반으로도 Llama3를 사용해 볼 수 있도록 서버를 열어놓았지만, 아쉽게도 특정 국가들에 국한되어 사용할 수 있게 해 놓았습니다.
때문에 현재 우리나라에서는 정식 루트로 클라우드 기반으로 체험하는 것은 어렵지만, 방법이 없는 것은 아닙니다. Llama3의 성능을 체험해 볼 수 있는 ‘2가지 방법’을 알려드리겠습니다.
방법 1 - 로컬: Ollama or LM Studio 사용
출처: LM Studio
첫 번째 방법은 로컬에서 Llama3를 사용하는 방법입니다. 해당 방법은 ‘Ollama’ 혹은 ‘LM Studio’라는 툴을 사용해야 합니다.
두 가지 툴 모두 LLM을 PC에서 실행할 수 있게 도와주는 툴입니다. 단, 설치할 Llama3의 용량을 감당할 수준의 PC의 성능이 필요합니다.
방법 2 - 웹: LMSYS의 챗봇 아레나 기능 사용
출처: LMSYS, chatbot Arena
만약 위 두 가지 툴을 설치하기 번거롭거나 PC의 성능이 받쳐주지 않는다면, LMSYS의 ‘챗봇 아레나’ 기능을 사용해 볼 수 있습니다.
LMSYS는 LLM의 성능을 쉽게 비교할 수 있는 서비스를 지원하고 있습니다. 덕분에 챗봇 아레나에 접속해 'Direct Chat'에서 Llama3 모델들 중 선택해 체험해 볼 수 있습니다. 하지만 대화의 내용이 기록되지 않고 휘발된다는 ‘단점’을 가지고 있어 주의해야 합니다.
Llama3 vs GPT-4o, 어떤 게 더 뛰어날까?
Meta의 Llama3와 Open AI의 GPT-4o, 어떤 게 더 뛰어날까요? 각각의 성능을 비교할 수 있게 웹스크래핑 예제를 만들도록 지시해 보았는데요, 먼저 LMSYS를 통해 Llama3 70B 모델을 사용한 결과를 살펴보겠습니다.
프롬프트: Chrome에 get 요청을 보내 파이썬으로 간단한 웹스크래핑 코드를 만들어줘.
출처: LMSYS, chatbot Arena: Direct Chat
코드를 작성해 주긴 합니다만, 뜬금없이 한자를 섞어 쓰는 등 완벽하게 만족스러운 답변을 하지는 못하는 모습을 보입니다. 아직 한국어에는 완벽하게 적응하지 못한 모습을 보입니다.
Open AI의 ChatGPT의 GPT-3.5 모델과 GPT-4o 모델에게 각각 같은 프롬프트로 웹스크래핑 코드 제작을 지시해 봤습니다. 먼저 GPT-3.5 모델부터 살펴보겠습니다.
프롬프트: Chrome에 get 요청을 보내 파이썬으로 간단한 웹스크래핑 코드를 만들어줘.
출처: OpenAI, ChatGPT
ChatGPT 3.5의 경우에는 Llama3의 70B 모델과 비교해 비슷하거나 조금 더 나은 수준을 보여줬으나, 결과가 만족스럽지는 않습니다. 그렇다면 GPT-4o는 어떨까요?
프롬프트: Chrome에 get 요청을 보내 파이썬으로 간단한 웹스크래핑 코드를 만들어줘.
출처: OpenAI, ChatGPT
GPT-4o의 경우에는 만족스러운 결과를 보여줬습니다. GPT-4의 기능인 웹서핑 기능까지 사용해가며 크롬 드라이버 경로까지 제안해 주네요.
같은 프롬프트를 요구했을 때의 결괏 값을 보면, 모델의 성능이 어느 정도 차이가 나는지 체감할 수 있을 것 같습니다.
하지만 Llama 3가 적은 용량을 갖고 있고, 영어를 기반으로 학습했다는 점을 감안하면 Llama 3가 보여주는 수준은 제법 준수한 편이라 생각됩니다.
한국어 모델로 재교육시킬 경우를 생각해 보면 개인 PC에서도 준수한 수준의 인공지능을 빠른 속도로도 사용할 수 있다는 뜻이니까요.
게다가 Llama3의 최대 모델인 400B+ 모델이 아직 공개되지 않았다는 점을 고려해 보면, AI 러버들에게는 환영할 만한 소식임에는 틀림없습니다.
이럴 땐 Llama 3 , 이럴 땐 Chat GPT를 사용하세요.
Chat GPT,
텍스트와 AI 이미지 등 다양한 콘텐츠가 필요한 경우
Chat GPT에서는 현재 멀티 모달 모델로 사용할 수 있기 때문에, 텍스트와 이미지 등 다양한 모달리티에 걸쳐 콘텐츠를 만들어야 하는 경우에는 선택의 여지없이 ChatGPT를 사용하는 것이 좋습니다.
특히 최근 출시된 새로운 GPT 모델인 GPT-4o 모델의 경우에는 무료로도 사용할 수 있죠. 하지만 지원하는 할당량이 적기에 본격적으로 사용한다면 유료로, 비용을 지불하며 Chat GPT를 사용할 것을 추천합니다.
Llama3,
큰 비용 없이 프로젝트에 AI 기능을 추가하고 싶은 경우
반면 Llama3는 허깅 페이스 등의 플랫폼에 있는 다양한 데이터 셋과의 결합이 가능하기에 유연한 모습을 보여줍니다. 그리고 로컬 PC에서 자체적으로 구동할 수 있으니 보안 측면에서도 부담이 덜해 보다 경제적으로 활용할 수 있습니다.
그러나 Chat GPT의 고급 모델들에 비하면 성능이 부족해 적당한 기술력이 뒷받침되어야 할 것입니다. 당장의 성능보다 커스터마이징을 통한 맞춤 서비스를 제작하고자 할 때에는 Llama3 모델을 추천합니다.
트렌디한 IT 도구르 활용한 업무 효율 상승을 시리즈
▶️ 프롬프트 작성법, Chat GPT 제대로 활용하는 방법
▶️ AI 이미지 생성, Dalle 3를 통해 무료로 생성하는 방법을 알려드립니다!
▶️ 노션 탬플릿 사용법 TOP 5, 일 잘러 프리랜서가 될 수 있는 지름길 대공개!
자원 관리 최적화를 위한 비즈니스 최적화 시리즈
▶️ ERP 프로그램이란? 성공적인 ERP 구축을 위한 종합가이드
▶️ 유지보수, 프로젝트가 오래가는 방법 알려드립니다.
▶️ 비즈니스 모델, 성공하는 비즈니스를 위한 핵심 전략 요소
프로젝트에 Llama 3를 적용해
최신 AI 서비스 기능을 활용하여
서비스를 업그레이드할 IT 전문가를 찾으시나요?
대한민국 최대 IT 인재 매칭 플랫폼 이랜서
이랜서는 24년의 데이터로 IT 전문가를 검증해 프로젝트에 가장 적합한 IT 전문가를 매칭해주는 대한민국 최대 IT 인재 매칭 플랫폼입니다.
소프트웨어 개발을 위한 자바 전문가부터 백엔드 서버를 구축하고 데이터 베이스를 수집할 JavaScript, Node js, Oracle, MySQL, MS SQL 등 백엔드 전문가와 R 언어, DA, DBA, ETL, 대시보드 등을 활용해 데이터를 분석하고 전략을 구축하는 빅 데이터 전문가와 ERP, SAP, 이지투웹, SCM 공급망 관리 등 전사적 자원 관리 시스템 개발로 업무 효율 최적화를 이룰 소프트웨어 전문가까지 약 40만 명의 IT 전문 프리랜서가 파트너십으로 등록되어 있습니다.
“이랜서 덕분에 IT 전문가 채용에 걱정이 없습니다.”
까다로운 IT 전문가 채용,
이랜서에서 빠른 기간 내에 IT 전문가를 매칭해주고
회사와 프리랜서를 중재하는데 많은 도움을 주어 어려움 없이 잘 해결했습니다.
“프로젝트 개발부터 유지보수까지”
상황에 맞게 필요한 IT 전문가를
데이터로 검증하여 빠르게 매칭합니다.
이랜서는 기업들이 IT 전문가 채용에 겪는 어려움을 해결하기 위해 데이터로 검증된 IT 전문가를 프로젝트 등록 24시간 이내에 매칭합니다. 신속하고 정확한 IT 전문가 매칭에 개발자부터 유지보수 전문가까지 SI 업체부터 다양한 기업들이 이랜서를 통해 IT 전문가를 매칭 받고 있습니다.
전문성부터 인성(협업 능력)까지
24년의 데이터로 검증해 프로젝트에
가장 적합한 IT 전문가를 매칭합니다.
이랜서는 프로젝트에 가장 적합한 IT 전문가를 매칭하기 위해 약 1.5억 개의 사용자 데이터와 350만 개의 프리랜서 평가 데이터를 활용하여, 전문성부터 인성(협업 능력)까지 철저하게 확인하여 IT 전문가를 매칭합니다.
24년의 데이터를 활용하기 때문에 경력 기술서와 이력서만으로는 검증하기 어려운 부분까지 확실하게 확인하여 매칭 한 덕분에 이랜서를 사용한 기업들의 재의뢰율은 98%에 이르고 있습니다.
전문성과 인성 모두 데이터 검증된 IT 전문가를 찾으시나요?
대한민국 No.1 IT 인재 매칭 플랫폼 이랜서에
-> 회원 가입만 하세요.
-> 24시간 안에 전담 매니저가 연락을 드립니다.
-> 끝입니다. 이게 다냐구요? 네, 이게 다입니다.
-> 급하시다고요? 전화 주세요. 02-545-0042
24년의 노하우와 데이터를 바탕으로 검증된 IT 프리랜서를 매칭해 드립니다.
실시간 인기 게시물이랜서 PICK 추천 게시물