Hippo's data

오늘은 DLinear 모델이 제안된 논문을 리뷰해보도록 하겠습니다!LTSF(Long term time-series) 분야에 굵직한 임팩트를 남겼던 논문인데욥Transformer구조가 시계열 예측 분야에서 우세했던 상황에서 “ Transformer는 LTSF에 별로다” 라며 주장했던 논문입니다! Paper: Are Transformers Effective for Time Series Forecasting? (Ailing Zeng, Muxi Chen, Lei Zhang, Qiang Xu)Conference: AAAI 2023GitHub Repository: https://github.com/cure-lab/LTSF-LinearArXiv: https://arxiv.org/abs/2205.13504 Are T..

오늘은 2017년 2월에 메타(구 페이스북)에서 발표한 프로펫(Prophet) 모델에 대해 톺아보겠습니다!해당 모델은 발표된지 꽤나 오래된 모델임에도 불구하고 시계열 예측 분야에서 아직까지도 많이 선호되는 모델인데요!!왜 그런지 구체적으로 톺아보도록 하겠습니다!최종적으로 BTC(비트코인) 데이터를 이용해서 간단히 실습해보도록 하겠습니다!# Reference Paper: Forecasting at Scale (https://peerj.com/preprints/3190.pdf)공식 Doc: https://facebook.github.io/prophet/docs/quick_start.html Quick StartProphet is a forecasting procedure implemented in R and..

"길벗 출판사에서 책을 협찬 받아 작성된 서평입니다."오늘 리뷰해볼 책은 길벗에서 출판한 '밑바닥부터 만들면서 배우는 LLM' 입니다!좋은 기회로 길벗 출판사로부터 해당 서적을 리뷰할 기회를 얻게 되었는데욥 리뷰 시작하겠습니다! 2022년 말에 GPT 3.5를 기반으로 공개된 Chat GPT 엄청난 혁신을 불러오면서, 오늘날까지 LLM에 대한 관심이 끊기지 않고 있는데욥 특히, 최근에는 구글에서 자체 TPU를 기반으로 학습한 제미나이 3.0이 등장하면서, LLM은 아직까지도 뜨거운 분야로 주목받고 있습니다! 이제는 검색을 할 때, 구글이나 네이버 검색창을 키는 것이 아니라 GPT 챗봇을 키는데욥... 특히 과제를 하거나 코드를 짜야할 때 이러한 LLM 활용은 선택이 아닌 필수가 되어버린 것 같습니다,,..

오늘 가져온 논문은 시계열 분야 특히 시계열 예측(TSF) 분야를 전반적으로 톺아볼 수 있는 서베이 논문입니다!해당 논문은 리뷰중심 저널 AIR(Artificial Intelligence Review)에 개재되었습니다! 1. Introduction2. Background3. Historical TSF Models4. New Exploration of TSF Models5. TSF Latest Open Challenges & Handling Methods 목차는 다음과 같은데욥시계열(TS)분야 기본적인 배경 지식 부터 시계열 예측(TSF) 분야 모델 발전과정, 최신 연구에서 다루는 주제까지 시계열예측분야(TSF)를 전반적으로 살펴볼 수 있습니다 1. IntroductionTime-Series 분야는 다양한..

TSF(시계열 예측) task에서 사용되는 다양한 검증기법 및 시계열에서 K-fold가 사용 가능한 case에 대해 정리해보았담 1. 홀드아웃 (Holdout) - Simple Time Split Validation-> 데이터를 특정 시점 기준으로 나누어 이전은 학습, 이후는 검증 (1번 split) 2. Sliding Window Validation (Rolling Window)-> 고정된 크기의 학습 및 검증 윈도우를 시간 순서대로 이동시키면서 여러 개의 split을 생성-> 최근 데이터가 중요한 경우 3. Expanding Window Validation (Walk-Forward) -> 학습 윈도우를 점진적으로 확장하면서 검증 윈도우는 고정 크기로 유지-> 모든 과거 데이터가 중요한 경우 4. ..

https://skforecast.org/0.18.0/introduction-forecasting/introduction-forecasting.html#global-forecasting-models Time series forecasting(TSF) 에서 미래를 예측할때, 미래 데이터 포인트 몇 스텝을 예측할지에 따라 다양한 전략이 존재하는데요이와 관련하여 매우 잘 정리된 글이 있어서 정리해 보았습니담 Single-step-> 데이터의 다음 값( t+1 )만을 예측 Multi-step-> 데이터의 전체 미래 구간( t+1, ..., t+n ) 또는 먼 시점( t+n )을 예측 Recursive = Iterated Multi-Step (IMS) -> 각각의 새로운 예측이 이전 예측을 기반으로 재귀적(rec..

"한빛미디어 서평단 활동을 위해서 책을 협찬 받아 작성된 서평입니다."오늘은 한빛미디어에서 발간한 'AI 엔지니어링' 책 서평을 작성해보겠습니다!! 저는 AI 기술에만 관심이 있지 개발과 관련된 지식은 1도 없는 대학생인데욥!연구되거나 아이디어로 존재하는 AI 기술이 어떤식으로 실제 서비스에 구현이 되는지 궁금증이 생겨 해당 책을 읽게 되었습니다! 이 책은 간단히 말해서 AI 모델 특히 요즘 핫한 파운데이션 모델을 활용해서 어떤식으로 AI 어플리케이션을 구축할 수 있는지 기획부터 설계, 운영, 개선까지의 전 과정을 총 망라한 책입니다 해당 책의 목차는 다음과 같은데요​크게 10개 챕터로 구성되어 있습니다!# 목차1장 파운데이션 모델을 활용한 AI 애플리케이션 입문 2장 파운데이션 모델 이해하기 3장 평..

안녕하세요! 오늘은 upgrade된 다운캐스팅 (Downcasting)에 대해 살펴보겠습니다!!사실 과거에 다운캐스팅 (Downcasting)과 관련하여 포스팅을 했었는데욥 최근에 다양한 전처리 업무를 진행하며 데이터를 다룰 때, 좀 더 엔지니어틱(?)한 스킬들을 여러가지 접했는데요!이번에는 좀 더 디벨롭하여 포스팅을 진행해 보겠습니다! https://hipposdata.tistory.com/125 다운캐스팅 (Downcasting)오늘은 다운캐스팅(Downcasting)에 대해 알아보겠습니다!데이터를 불러와서 모델링을 하다보면 데이터가 너무 커서 속도가 너무 오래걸리거나, 메모리 초과(OOM: out-of-memory) 오류가 발생하는 경우가hipposdata.tistory.com # 다운캐스팅 (D..