BRICKSTUDY

0. 개요안녕하세요 브릭스터디 박찬영입니다. 이번에는 Attention과 transformer에 대한 개념 공부를 했는데, 이를 공유하도록 하겠습니다. 이제는 거의 필수적인 인공지능 개념이 되어버린 녀석들인데, 저는 이제야 공부를 해봅니다. 열심히 제가 이해한 내용을 바탕으로 작성해보도록 하겠습니다.  1. Attention1) The bottleneck problem지난 포스팅에서 살펴봤었던, Encoder, Decoder 구조를 보면, 모든 Encoder의 정보가 Decoder의 첫번째 스테이지에서 처리가 되는 것을 볼 수가 있습니다. 여기서 bottleneck 문제가 발생하는 것이고, 이러한 경우에 input sequence가 길면, 문제가 발생할 수 있습니다.  그래서 문제를 해결하기 위한 간단한..

0. 개요안녕하십니까 브릭스터디 박찬영입니다. 이번 포스팅에서는 이제는 인공지능 기본 개념이 된 Attention, Transformer에 대한 공부를 하기 전에 필요한 RNN, Sequence-to-Sequence에 대해서 알아보려고 합니다. 한참 인공지능 공부할 때에도 잘 안 보고 넘어갔던 내용들이었는데, 이제는 그 영향력이 너무 커진 것 같아서 최근 듣고 있는 강의를 통해서 공부를 해봤습니다. 그래서 제가 이해한 내용을 바탕으로 공유하려고 합니다.  참고 강의 링크 : https://cs182sp21.github.io/ CS 182: Deep LearningHead uGSI Brandon Trabucco btrabucco@berkeley.edu Office Hours: Th 10:00am-12:00..

0. 개요안녕하십니까, 브릭스터디 박찬영입니다. 최근 인공지능 관련 기초 개념들을 다시 복습하고 있는데요. 공유하기 좋은 내용이라고 생각해서 이번 포스팅을 작성합니다. 전체적인 복습은 https://cs182sp21.github.io/ (UC Berkeley CS W182)를 보면서 진행하고 있습니다. 전반적인 인공지능 필수 개념을 다루고 있어서 좋은 강의라고 생각합니다.  그래서 이번 포스팅에서 다룰 내용은 Optimization을 다루려고 합니다. 지난 인공지능 기초 포스팅에서 2024.10.11 - [AI] - Supervised Learning 기초 지도학습을 다루면서 gradient descent 방법까지 살펴봤었는데, 이번에는 Opimization 측면에서 살펴보도록 하겠습니다.  1. Gra..

0. 개요안녕하세요. 브릭스터디 박찬영입니다. 이번 포스팅은 요새는 모르는 사람이 없는 Machine Learning, Deep Learning의 학습 Method인 supervised learning에 대해서 이야기를 해보려고 합니다. 많이 배운 내용들이지만, 자주 잊어버리는 내용들이라고 생각해서 공유하면서 남기려고 합니다.  1. SettingSupervised Learning (지도학습)이라고 하는 학습 메커니즘은 현대 AI에서 가장 많이 사용되는 방법이 아닐까 싶습니다. 우리가 어떤 image로부터 해당 이미지의 object 카테고리를 예측하는 모델을 만든다고 했을 때, 모델이 잘 예측할 수 있도록 "연습"을 시키는 행위라고 볼 수 있습니다.(문제 - 정답)으로 구성된 데이터를 모델이 보면서 연습..

2024.09.01 - [AI] - Embodied AI : Survey(2) 1. 개요안녕하십니까, 브릭스터디 박찬영입니다. 지난 포스팅에서 다룬 Embodied AI 서베이 논문 내용에서는 Embodied Ai의 task들, 고려사항들에 대해서 다루었습니다. 그중 task에서 가장 주목을 받고 있는 분야가 바로 Vision-Language Navigation(VLN)인데요. 오늘은 VLN관련해서 알아보려고 합니다.  참고한 논문은 다음과 같습니다. Zhang, Yue, et al. "Vision-and-Language Navigation Today and Tomorrow: A Survey in the Era of Foundation Models." arXiv preprint arXiv:2407.070..

2024.08.10 - [AI] - Embodied AI : Next-Gen AI System(1)1. 개요안녕하십니까 브릭스터디 박찬영입니다. 저번에 포스팅했던 내용에서는 embodied ai 연구가 왜 중요 해졌는지에 대해서 이야기를 했었는데, 이번에는 embodied ai 서베이 논문을 읽고 나서 어떤 연구 task들이 있는지, 고려해야 할 요소들은 어떤 게 있는지 가볍게 살펴보려고 합니다.  참고한 논문은 다음과 같습니다. Duan, Jiafei, et al. "A survey of embodied ai: From simulators to research tasks." _IEEE Transactions on Emerging Topics in Computational Intelligence_ 6.2..

1. 개요안녕하세요. 브릭스터디 박찬영입니다. 이번에 포스팅할 내용은 최근 제가 공부를 시작한 AI 연구 분야인 "Embodied AI"에 대한 내용입니다. Embodied AI에 대해서 공부를 이제 막 시작한 단계라서 저도 이제 막 알아가고 있는 단계인데, 그 내용들을 시리즈로 포스팅할 계획입니다. 그래서 오늘 처음 제가 소개할 내용은 AI 시스템의 발전 과정에 대한 이야기를 가지고 왔습니다. 왜 Embodied AI 연구 분야가 떠오르고 있는지를 알아 갈 수 있으면 좋겠습니다. 본 게시글의 내용은 서울대학교 장병탁 교수님의 유튜브 강의 내용을 참고했습니다. 유튜브 링크 :https://www.youtube.com/watch?v=XYGX6g8VvH0&t=875s&pp=ygUK7J6l67OR7YOBIA%..