일본 지바현의 한 조용한 사찰에서 아주 특별한 장례식이 열리고 있었습니다. 사람도 아니고 동물도 아닌 **‘이것’**의 마지막을 추모하는 자리였는데요.그것은 바로 강아지 모양의 반려로봇 ‘아이보’ 들의 합동 장례식이었습니다.로봇이 추도사를 읽고, 스님이 경전을 암송한 이 장례식은 마치 SF 영화 속 이야기 같기도 합니다.얼핏 들으면 가짜 뉴스 같기도 하고 코미디 같기도 하지만 벌써 다섯 번째 치러지는 이 장례식은 우리 사회가 반려로봇을 대하는 정서적 깊이를 보여주는 상징적인 사건이었습니다.로봇의 장례식을 치른 당시 상주(喪主)에게 ‘아이보’는 더 이상 단순한 기계가 아니라 가족의 일원이자 감정을 나누는 동반자였을 것입니다.분명 생명이 없는 로봇인데 왜 장례식을 치르게 되었을까요?다양한 해석이 가능하겠지만 저는 가상의 세계와 현실 세계의 경계가 모호해진 21세기 현대의 시대상이 그대로 투영된 것이라고 생각합니다.아이보와 정서적 유대를 형성하게 된 로봇 사용자들이 아이보의 장례식을 치른 이유는 저는 아래의 세 가지 정도로 생각합니다.첫 번째는 아이보가 단순한 전자제품이 아니라 감정을 공유할 수 있고 유대관계를 형성할 수 있는 ‘반려' 로봇,그러니까 진짜 반려동물처럼 그들의 삶에 동반자가 될 수 있었기 때문이라고 생각합니다.말하고 듣고 감정을 교류할 수 있는 AI 로봇이라면 실제 반려견이 무지개를 건넜을 때와 같이 충분히 장례식을 치르고 추모해 줄 수 있을 것입니다.그리고 지금은 엄청난 기술의 발전으로 아이보보다 더욱 진짜 같은 반려로봇이 얼마든지 나올 수 있을 것입니다.두 번째는 이번 글의 주제와 가까이 닿아 있는 부분입니다. 그것은 사용자들이 아이보가 ‘사망’ 했다고 생각했기 때문일 것입니다.더 이상 움직이지도 못하고 말도 하지 못하는 상태였을 텐데요. 사람으로 비유하자면 사망했거나 또는 식물인간 같았을 겁니다.실제로 제조사인 소니는 2006년 구조조정으로 인해 아이보의 판매를 중단했고 2013년부터는 A/S마저 중단하였습니다.그래서 아이보는 더 이상 A/S를 받을 수도 없었고 부품을 구해 수리할 수도 없었다고 합니다.그리고 4년 뒤인 2017년, 100대의 아이보가 한꺼번에 합동 장례식을 치르게 된 것입니다.그런데 로봇의 장례식까지 치른 고객이라면 제조사에 대한 감정이 과연 어떠했을까요? 아마 제조사를 원망했을지 모릅니다.그러므로 소위 말하는 ‘AI 반려로봇’을 앞으로 만들게 된다면 이처럼 장례식을 치르게 하여서는 안될 것입니다. 기업의 이미지와 곧바로 연결될 수 있기 때문입니다.세 번째는 비즈니스 측면에서 AI 반려로봇 산업이 활성화되지 못한 것도 한몫했다고 생각합니다.그 당시 관련 산업이 활성화 되지 못한 배경에는 아마도 가성비와 완성도 측면에서 많이 부족했고 BM 측면에서도 상당히 제한적인 상황이 있었을 것입니다.시장이 성장하지 못하였기에 사업을 접고 A/S까지 중단하기에 이른 것이라고 충분히 짐작할 수 있을 것입니다.이제는 로봇 제조를 넘어 한발 더 나아가 부가적인 수익을 창출할 수 있는 **RaaS(Robot as a Servi

이번 포스팅은 ［Python］ C Library 이용해서 성능 높이기(Ctypes+Numpy, 2편) 의 후속 포스팅으로 찾아왔습니다!지난번 포스팅에서 Ctypes와 Numpy + SIMD, openMP를 다 써봅시다! 라고 했었는데요해당 내용을 이번 포스팅에서 다뤄볼 예정입니다!이번 포스팅에서는.를 다뤄볼 생각 입니다.C에서 Thread를 사용할 경우pthread 혹은 C++의 Thread모듈을 사용하게 됩니다.다행히도 Python에서 사용하는 Thread와 유사한 사용 패턴을 제공합니다.Thread를 만들면서 해당 Thread에서 실행할 함수를 제공하고다시 Thread를 Join시켜서 분리된 작업을 마무리 시킵니다.이때 malloc을 이용해서 memory를 확보하고, 이 메모리 주소 기반으로 Thread마다 나눠서 데이터를 처리하는것이 가능합니다.openmp는 예전에도 잠깐 나왔었지만C++에서 컴파일러 한태 자동으로 해당 구문을 병렬처리하라 라고 알려주는 기능 입니다.를 통해서 활용이 가능하며최신 gcc나 msvc컴파일러에서 바로 활용이 가능합니다.여러가지 활용 방법이 있지만이번 포스팅에서는 단순하게 embrassingly parallel을 위한 만 적용할 예정입니다.아래는 그 예시코드입니다.하나의 명령어로 2개 이상의 Data를 한번에 처리할 수 있는 처리 방법을 의미합니다.단순하게 함수로 묶어서 코드한줄에 두개의 Data를 처리하는것이 아니라CPU명령어 Level에서 한번에 256, 512bit의 Data를 한번에 계산할 수가 있습니다.기본적으로 와 를 이용해서 256bit SIMD연산이 가능합니다.저는 이번에 SIMD Array Add연산을 통해서 성능비교를 해볼 예정입니다.256bit SIMD Add를 통해서 Data를 계산하는 방법은 아래를 참고해주세요!이제 위 기술들을 조합해봐야겠죠?위에서 각자 적용하는 것은 해 보았으니SIMD와 병렬처리를 조합한 코드를 간단히 보고 넘어가겠습니다.Thread한태 malloc을 통해서 할당받은 pointer를 넘겨주고해당 pointer를 thread job내부에서 typecasting을 통해서 계산하는 구조를 가지고 있습니다.그럼 이번에 OpenMP를 사용한 경우를 보실까요?OpenMP를 사용할 경우, 위처럼 편리하게 반복문을 병렬화 시켜서 계산 할 수가 있습니다.최종 벤치마킹을 위해 사용된 C함수들의 소스코드 입니다.먼저 Data를 증가시켜 가면서 테스트 했을 때 C Thread를 사용하면서 발생하는 오버헤드는 크지 않은것 같습니다.덕분에 Python내부에서 multi-core를 활용하여 빠른 연산이 가능했습니다.그리고, SIMD를 사용한 효과를 생각보다 크지 않았습니다.결국 numpy c-api를 이용할 경우 GIL을 벗어난 multi-core활용이 가장 큰 이점이라고 할 수 있습니다.• None numpy에서 넘겨받은 Array를 바로 쓸 수 있는 장점을 극대화할 수 있다.• None OMP의 경우 element를 partition없이 반복문 처리하는것은 비효율적이다.• None SI

NEXT, N: 새로운 도약, 변화하는 네이버오는 11월, 팀네이버 컨퍼런스 DAN 24가 열립니다.개발자 컨퍼런스 DEVIEW가 기술 공유를 넘어 네이버의 미래 비즈니스와 서비스 변화 방향을 제시하는 더 큰 무대 DAN으로 새롭게 돌아옵니다.올해의 주요 아젠다를 발표하는 키노트 세션 외에도 - 개발자들의 깊이 있는 경험과 노하우를 공유하는 DEVIEW(기술) 세션 - 네이버의 다양한 온·오프라인 경험과 메이커들을 소개하는 CREATIVE(디자인&기획) 세션 - 끊임없이 도전하고, 발전하는 팀네이버 기술에 대해 논의하는 기술워크샵 - 기술과 서비스를 직접 체험할 수 있는 체험존과 부스 등더욱 다채로운 프로그램을 만나보실 수 있습니다.DAN 24 안내일정 : 2024년 11월 11일(월)-12일(화)장소 : 코엑스 (그랜드 볼룸, 아셈 볼룸, 오디토리움)참가 신청 : 10월 30~31일 양일간 오후 3시 (DAY 1,2 각각 선착순 신청)>> DAN 24 웹사이트 바로가기원문) 팀네이버 컨퍼런스 DAN 24가 개최됩니다!

오늘은 기술적인 이야기보다는 세간의 화두인 생성 AI와 대형언어모델(LLM : Large Language Model)이 실생활에 결합 되었을 때 어떤 결과를 가져올 수 있을지 이야기해보도록 하겠습니다.생성 AI는 ChatGPT, Perplexity와 같이 웹 상에 존재하는 모든 데이터와 개인이 업로드하는 개별 데이터를 기반으로 추론, 연산, 조합, 생성을 통해 결과물을 제공하는 것이 대표적 입니다.최근에는 개인의 스마트폰부터 각종 온디맨드 서비스에도 각각 디바이스와 서비스에 축척된 데이터를 기반으로 개인화된 AI서비스를 제공하고 있습니다.[사진1] 저장된 400만 리뷰 데이터를 기반으로 AI가 최적의 메뉴와 음식점을 추천 해주는 배달의 민족. (Youtube)[사진2] 네이버 블로그, 네이버 지도, 네이버 쇼핑 등에 쌓인 각각의 데이터를 기반으로 AI답변을 제공하는 네이버 Cue. (네이버 Cue 소개페이지)이제는 나를 둘러싼 다양한 환경 - 가전제품, 자동차, 집, 인프라 등 - 에 통합되고 있습니다.이러한 확장을 통해 사용자는 오프라인 생활 환경에서도 각 디바이스 별 최적의 솔루션을 제공 받습니다.예를 들어, 삼성전자의 최신 가전제품에 탑재된 AI는 LLM기반의 Vision 기술을 통해 보관된 음식을 스캐닝하고, 이 음식을 기반으로한 요리 레시피 추천은 생성 AI를 통해 제안합니다.[사진3] 냉장고 내부 카메라를 통해 어떤 음식이 보관되는지 실시간 스캐닝하여, 음식 관리를 돕고, 냉장고 안에 있는 재료들을 기반으로 요리할만한 레시피를 제안하는 삼성전자 BESPOKE AI (Youtube)최근에는 자동차에서도 AI가 적용되어, 차량의 상태를 모니터링하고 경로를 제안하며,운전자의 필요에 맞춰 다양한 서비스를 제공하는 방식으로 우리의 일상에 스며들고 있습니다.그렇다면 LLM기반의 생성AI가 자동차와 만나면, 무슨 일이 생길까요?자동차 산업은 현재 혁신적인 변화를 겪고 있습니다. 그 중심에는 SDV(Software-Defined Vehicle)와 자율주행 기술이 있습니다.기존의 내연기관 차량은 CAN(Controller Area Network) 신호 기반으로 차량 내 통신이 이루어졌습니다.이는 여러 전자 제어 장치(ECU) - 예를들면, 창문 ECU, 공조 장치 ECU, 라이트 ECU - 간의 통신이 각 배선으로 연결되어 통신하는 방식을 뜻합니다.하지만 SDV 시대로 접어들면서, 자동차 통신은 이더넷 기반의 통합 제어기로 전환하여, 중앙집중화된 컴퓨팅 환경으로 변화하고 있습니다.이로 인해 자동차 내 통신은 더 빠른 속도로 데이터를 주고 받을 수 있게 되었고, 고해상도 카메라와 센서 간 통신을 통해 자율주행 기술 적용을 용이하게 했으며,고성능 차량용 컴퓨터(HPVC)와 칩셋, 그래픽 카드 등이 적용되어 다양한 기능을 처리할 수 있게 되었습니다.이러한 환경은 대용량의 데이터 분석과 컴퓨팅 연산이 필요한 생성AI가 자동차에 들어오기 적절한 환경을 제공해주었습니다.[사진4] 왼쪽은 CAN 통신 방식, 오른쪽은 Zonal 이더넷 방식. 이더넷을 통해

최근 RAG 관련 업무를 진행하면서 벡터DB가 필요하게 되어 팀 내 논의를 거쳐 Qdrant를 선택하였습니다.현재 개발 환경을 구축하여 이를 활용하고 있으며, 이에 대한 내용을 공유드리고자 합니다.최근 벡터 검색과 유사도 기반 검색이 많은 관심을 받고 있습니다.Qdrant와 같은 벡터 데이터베이스는 검색 및 추천 시스템에서 그 성능을 입증하고 있으며,특히 Retrieval-Augmented Generation(RAG)과 결합해 놀라운 성능을 발휘할 수 있습니다.이번 글에서는 Azure Kubernetes Service(AKS)를 이용해 Qdrant를 손쉽고 빠르게 개발 환경에 배포하고,Ingress를 통해 도메인 기반으로 접근할 수 있도록 하는 방법을 소개하고자 합니다.1. 빠르고 간편하게 시작하는 Qdrant: 개발 환경의 첫걸음Qdrant는 벡터 데이터베이스로써, 빠른 벡터 검색을 제공해 AI 애플리케이션 개발에 큰 도움을 줍니다.특히 개발 초기 단계에서 손쉽게 Qdrant를 배포하고 테스트하는 것은 매우 중요합니다.복잡한 인프라 구성을 피하고 빠르게 설치하고 활용해 봄으로써, RAG와 같은 복합적인 환경에서도 데이터 검색 및 활용을 간편하게 시작할 수 있습니다.이 글에서는 Azure Kubernetes Service(AKS)를 활용하여 Qdrant를 빠르게 배포하고, 필요한 최소한의 설정만으로도 바로 사용할 수 있는 환경을 만드는 데 중점을 두겠습니다.RAG(Retrieval-Augmented Generation)는 외부 지식을 검색해 언어 모델의 응답 품질을 향상시키는 방법입니다.예를 들어, 사용자가 질문했을 때, 관련된 정보를 외부 데이터베이스에서 검색하여 언어 모델이 더욱 정확하고 풍부한 답변을 생성할 수 있도록 돕습니다.Qdrant는 이러한 RAG 구조에서 매우 중요한 벡터 검색 역할을 담당합니다.Qdrant는 빠른 설치뿐만 아니라, 여러 가지 강점으로 개발자에게 강력한 도구가 되어줍니다.- HNSW 알고리즘으로 빠른 벡터 검색Qdrant는 HNSW(Hierarchical Navigable Small World) 알고리즘을 사용해 벡터 공간에서 빠르고 효율적으로 유사한 결과를 검색할 수 있습니다.이를 통해 수백만 개의 벡터 데이터 중에서도 의미적으로 가장 유사한 정보를 빠르게 찾을 수 있어 RAG와 같은 시스템에서 매우 중요한 역할을 합니다.Kubernetes에 Qdrant를 배포함으로써 확장성을 간단하게 확보할 수 있습니다.Kubernetes는 필요에 따라 Qdrant 인스턴스를 쉽게 확장할 수 있는 기능을 제공하므로, 데이터 증가나 요청 수요에 따라 Qdrant의 검색 성능을 유지할 수 있습니다.이는 빠르게 변화하는 개발 환경에서 큰 장점이 됩니다.Qdrant는 벡터 데이터를 인덱싱하고 검색하는 데 있어서 메모리와 디스크 I/O를 효율적으로 활용해 높은 성능을 제공합니다.개발자는 Qdrant를 통해 실시간으로 데이터를 검색하고, RAG 구조를 이용해 AI 모델이 보다 나은 결과를 생성하도록 할 수 있습니다.이제 Kuber

‘주식 하는 사람’이라면 어떤 이미지가 떠오르세요?저는 5년 전만 해도 주식 투자하는 사람이라고 하면 일단 ”나랑은 다른 세계 사람”이라고 생각했던 것 같아요. 뭔가 주식을 잘한다는 건 복잡한 경제 용어들도 잘 알고, 글로벌 뉴스나 정치 등 세상 돌아가는 일에 빠삭하고… 그런 이미지였거든요. 쉽게 보고 뛰어들었다가는 어렵게 번 돈을 잃기가 쉽다는 조언도 주변에서 들었던 것 같고요. 잘 모르고 시작하면 손해 보기 쉬운데, 그렇다고 잘 알아보려니 어디서부터 어떻게 시작해야 할지 몰라 “나랑 다른 세계 이야기”로 치부하는게 마음 편했던 것 같아요.그 5년 전, 토스증권팀에서는 서비스 출시를 준비하고 있었어요. 저처럼 주식을 어려워하던 사람도 쉽게 이용할 수 있는 증권 서비스를 만들겠다는 목표를 가지고요.그런 목표를 가지고 3년 전인 2021년, 토스증권 서비스가 오픈됐어요. 바람대로 토스증권에서 투자를 시작한 분들도 계셨지만, 여전히 어려워하는 분들도 계셨어요. 계좌만 만들고 투자를 시작하지 않은 분들도 많이 계셨고요. 팀에서는 이제 어떻게 하면 토스증권에서 처음 투자를 시작하는 분들이 첫걸음을 잘 떼실 수 있을지 고민하기 시작했어요. 이 시점에 저는 토스증권의 UX 리서치를 맡아 합류하게 되었죠.토스증권의 UX 리서처로 가장 먼저 요청받았던 과제는 “첫 매수 문제” 였는데요. 당시 한 PO(Product Owner)분이 오셔서 이렇게 요청해주셨어요.처음엔 위와 같이 첫 매수를 어려워하는 유저를 만나보며 리서치를 시작했어요. 그런 분들은 대부분 이제 막 투자를 시작한 초보 투자자분들이었죠.그런데 진행할수록 초보 투자자의 어려움을 파악하는 것만으로는 우리가 어떤 해결책을 제시할 수 있을지 잘 그려지지 않는 거예요. 그렇다면 이건 경험이 많은 투자자에서 찾아지지 않을까 싶었죠.결국 이 리서치는 초보 투자자의 첫 매수 문제에서 시작해 경험이 많은 투자자의 비결을 알아보는 것까지 확장되었어요. 돌아보니 초보가 어려워하는 점은 매우 많았지만, 그중에서도 집중해야 할 중요한 문제가 무엇인지는 그 어려움을 뛰어넘은 투자자를 만나봐야 알 수 있었던 것 같아요. 그러다 보니 자연히 그들의 비결까지 알게 되었어요.초보 투자자의 첫 매수 문제부터 경험 많은 투자자의 비결까지, 지금부터 알려드릴게요.초보 투자자의 첫 번째 문제 : 관심은 있지만 관심종목에 추가하지 않아요팀원 모두 본인이 초보 투자자거나 한때 그랬던 시절이 있었기 때문에, 아무리 서비스를 잘 만들어도 투자를 처음 시작하는 것은 용기가 필요한 부분일 거라고 예상했어요. 어쩌다 토스증권에서 계좌는 개설하셨더라도, 관심 있는 종목 자체가 없을 수도 있다고 생각했죠. 당연히 ‘처음 투자할 만한 괜찮은 종목 발견’을 돕는 것이 가장 중요할 일일 것으로 생각하고 있었죠.그렇기 때문에 아예 ‘투자가 처음이며 첫 매수를 하지 않은’ 그룹의 인터뷰를 시작했을 때 주의 깊게 관찰했어요. “관심 있는 종목이 없어요” 혹은 “어디서부터 어떻게 종목을 찾아야 할지 모르겠어요” 같은 어려움이 나오길 기대하면서요.그런데 예상