빛과소금(http://searcher.tistory.com)

🔍 1. DeepSeek (DeepSeek-V2, DeepSeek-Coder 등)DeepSeek은 중국에서 개발한 오픈소스 LLM 계열로, 특히 코드 생성과 다국어 지원에 강점을 가진 모델입니다.💡 특징DeepSeek-V2: 자연어 이해와 생성 능력이 뛰어나며, LLaMA 계열과 비슷한 구조.DeepSeek-Coder: 코딩 특화 모델로, CodeLlama와 경쟁하며 Python, C++, Java 등 다양한 언어 지원.오픈소스로 제공되며, 기업이 직접 커스터마이징 가능.중국어 지원이 강력하나, 영어 및 기타 언어에서도 성능이 준수함.RAG(Retrieval-Augmented Generation) 기능을 직접 제공하는 것은 아니지만, 활용 가능.📌 한마디로?오픈소스 기반이라 연구 및 커스터마이징이 ..

✅ 1. 이미 초기 대중 시장에 진입 중ChatGPT, Claude, Gemini 같은 LLM 기반 서비스가 일반 사용자에게도 보편화되고 있음.기업들은 문서 요약, 고객 지원, 코딩 보조 등 다양한 업무에 LLM을 도입 중.MS, Google, OpenAI 등이 대규모 투자하면서 생태계가 빠르게 확장됨.✅ 2. 문제 해결을 위한 보완 기술 발전프롬프트 엔지니어링, RAG(Retrieval-Augmented Generation), 파인튜닝 등으로 성능 개선AI의 환각(잘못된 정보 생성) 문제를 해결하기 위한 신뢰성 향상 기술 연구온디바이스 AI 및 프라이버시 보호 기술 도입🚧 하지만 해결해야 할 과제도 있음❌ 비용 문제: LLM을 학습하고 운영하는 데 드는 비용이 높음.❌ 신뢰성 문제: 완전한 정답을 보..

import os from langchain_openai import AzureOpenAIEmbeddings from dotenv import load_dotenv # .env 파일 로드 load_dotenv() # 환경 변수에서 임베딩 설정 정보 가져오기 AZURE_OPENAI_EMBEDDING_ENDPOINT = os.getenv("AZURE_OPENAI_EMBEDDING_ENDPOINT", "https://f.openai.azure.com") AZURE_OPENAI_EMBEDDING_API_KEY = os.getenv("AZURE_OPENAI_EMBEDDING_API_KEY", "key") AZURE_OPENAI_EMBEDDING_DEPLOYMENT_NAME = os.getenv("AZURE_OPE..

1980년대 국민학교(지금은 초등학교 ^^) 다니며 베이직을 시작으로, 1990년도 C와 C++ , JAVA , MFC 를 거치며 프로개발자의 삶을 살게 되었다.  그 시절에는1.남들이 해보지 못한 영역에 도전하여 무언가 돌아가는 프로그램을 짜면 잘한다 했다. 2.내가 필요한 라이브러리를 만들어서 프로젝트에 사용하는 개발자를 우러러 보았고, 3.구조화가 잘 된 소스를 보면서 잘한다 했다. AI 시절 지금은 어떠한가? 마찬가지다.1.남들이 해보지 못한 영역에 도전해서 무언가 돌아가는 프로그램을 짜면 잘한다 한다. 즉, 부지런히 도전해야 한다. 2. 내가 필요한 라이브러리를 만들어서 프로젝트에 생산적으로 사용한다.?  이게 가장 큰 차이다.   요즘은 오픈소스를 잘 사용하면 된다. (다만, 오픈소스를 만드는..

×닫기올거나이즈가 국내 최초로 검색 증강 생성(RAG) 성능을 평가하는 '알리 RAG 리더보드'를 공개했습니다. 이 리더보드는 금융, 공공, 의료, 법률, 커머스의 5개 분야에서 한국어 RAG 성능을 평가합니다. 이를 통해 기업들은 가장 적합한 RAG 솔루션을 비교하고 도입할 수 있습니다​ (AI타임스)​​ (올거나이즈, 기업 생산성을 혁신하는 LLM Enabler)​. 리더보드는 답변 유사도 및 정확도를 판단하는 5개의 평가 도구를 사용하여 성능을 평가합니다. 이 도구들은 답변의 정확성과 유사성을 측정하며, 각 평가 결과에서 3개 이상의 도구가 오류 없이 통과된 경우에 '이상 없음'으로 판정합니다​ (올거나이즈, 기업 생산성을 혁신하는 LLM Enabler)​. 또한, 올거나이즈는 테스트 데이터셋을 공..

소개팅에 성공하고 싶은데 어떻게 해야해? 그 답을 챗GPT로 풀어볼 수 있을까? 흔히 성격유형을 MBTI로 구분을 하는데, 주변에 I 성향 (E:외향, I:내향)인 직장 동료들에게 물어보니 "소개팅이 무섭다" 라 한다. "모르는 사람과 말을 섞고 생각을 공유하는 것 자체가 긴장이 되서 시도도 안해요"... 말 문이 확 막혀버린다하니 나의 단짝은 어디서 만나야 한단 말인가? 영화 HER 처럼 인공지능과 사귈 수는 없지 않은가? 챗GTP에게 "소개팅에서 성공하고 싶어" 소개팅에서 성공하고 싶다면 몇 가지 팁을 따르는 것이 좋습니다. 자신의 모습에 신경 쓰세요: 처음 만날 상대방에게 좋은 인상을 주기 위해 깔끔하고 정돈된 모습으로 나타나는 것이 중요합니다. 옷차림과 헤어스타일 등에도 신경을 써서 자신감 있게 ..

“사용자 데이터를 다루는 데 둘째가라면 서러워 할 아마존이 많은 양의 데이터를 연구해 만든 오리지널 시리즈 ‘알파 하우스’는 왜 실패했는가.” 베르니케는 데이터가 중요하기는 하지만 결국 분석한 데이터를 가지고 최종 결정을 내리는 것은 사람이라고 강조했다.