#126: Vector Database Management Systems

Misreading Chat

MP3•Pagina principale dell'episodio

28:39

For centuries, members of the B’doul Bedouin tribe lived in the caves around the ancient city of Petra, Jordan. Then, in the 1980s, the government forced the tribe to move in the name of preserving the geological site for tourists. But if the residents are forced to leave, and if their heritage has been permanently changed, then what exactly is being preserved? Learn about your ad choices: dovetail.prx.org/ad-choices…

circa un anno fa 54:03

AI 流行りで台頭中な Vector DB のサーベイを向井が眺めました。ご意見感想などは Reddit やおたより投書箱にお寄せください。iTunes のレビューや星もよろしくね。

147 episodi

#コンピューターサイエンス #テクノロジー #Computer Science #Hajime Morrita, Jun Mukai

#126: Vector Database Management Systems

Misreading Chat

159 subscribers

published circa un anno fa

MP3•Pagina principale dell'episodio

147 episodi

#コンピューターサイエンス #テクノロジー #Computer Science #Hajime Morrita, Jun Mukai

Tutti gli episodi

1
#143 – SWE-bench: Can Language Models Resolve Real-World GitHub Issues? 36:07

16 weeks fa36:07

36:07

GitHub の Issue を読んでバグを直すエーアイについて森田が読みました。ご意見感想などは Reddit やおたより投書箱にお寄せください。 iTunes のレビューや星もよろしくね。 [2310.06770] SWE-bench: Can Language Models Resolve Real-World GitHub Issues? [2405.15793] SWE-agent: Agent-Computer Interfaces Enable Automated Software Engineering SWE-bench Introducing SWE-bench Verified | OpenAI The new Claude 3.5 Sonnet, Computer Use, and Building SOTA Agents — with Erik Schluntz, Anthropic…

1
#142: An Empirical Study of Rust-for-Linux: The Success, Dissatisfaction, and Compromise 54:05

17 weeks fa54:05

54:05

Rust を Linux カーネルへで使う取り組みの進捗を向井がウォッチしました。ご意見感想などは Reddit やおたより投書箱にお寄せください。 iTunes のレビューや星もよろしくね。 An Empirical Study of Rust-for-Linux: The Success, Dissatisfaction, and Compromise | USENIX Rust for Linux

1
#141: SQL Has Problems. We Can Fix Them: Pipe Syntax In SQL 36:55

20 weeks fa36:55

36:55

Google SQL の新しい文法を森田が紹介しました。ご意見感想などは Reddit やおたより投書箱にお寄せください。 iTunes のレビューや星もよろしくね。 SQL Has Problems. We Can Fix Them: Pipe Syntax In SQL PRQL Pipe syntax | BigQuery | Google Cloud SQLite Forum: Interesting paper from Google on pipe syntax on SQL

1
#140: GSM-Symbolic: Understanding the Limitations of Mathematical Reasoning in Large Language Models 39:54

23 weeks fa39:54

39:54

LLM にひっかけ算数問題を出してみる話を向井が読みました。ご意見感想などは Reddit やおたより投書箱にお寄せください。 iTunes のレビューや星もよろしくね。 [2410.05229] GSM-Symbolic: Understanding the Limitations of Mathematical Reasoning in Large Language Models GitHub – openai/grade-school-math

1
#139: NeRF: Representing Scenes as Neural Radiance Fields for View Synthesis 38:00

26 weeks fa38:00

38:00

写真を集めてシーンをレンダリングするニューラルネットを森田が読みました。ご意見感想などは Reddit やおたより投書箱にお寄せください。 iTunes のレビューや星もよろしくね。 NeRF: Representing Scenes as Neural Radiance Fields for View Synthesis NeRF Tutorial ECCV 2022 illuminate.google.com

1
#138: Distilling the Knowledge in a Neural Network 23:38

29 weeks fa23:38

23:38

大きなモデルから小さなモデルを作るテクニックを向井が回願しました。ご意見感想などは Reddit やおたより投書箱にお寄せください。 iTunes のレビューや星もよろしくね。 [1503.02531] Distilling the Knowledge in a Neural Network

1
#137: Optimal Quantile Approximation in Streams 27:32

33 weeks fa27:32

27:32

ストリームにパーセンタイルを計算したい森田が教科書を読みました。ご意見感想などは Reddit やおたより投書箱にお寄せください。 iTunes のレビューや星もよろしくね。 [1603.05346v2] Optimal Quantile Approximation in Streams Small Summaries for Big Data Data Types – Presto 0.288 Documentation Estimating Percentile Values | Snowflake Documentation KLL sketch vs t-digest – DataSketches…

1
#136: Distinct Elements in Streams: An Algorithm for the (Text) Book 25:58

34 weeks fa25:58

25:58

学部生にも実装できるストリームの要素カウントアルゴリズムを向井が試しました。ご意見感想などは Reddit やおたより投書箱にお寄せください。 iTunes のレビューや星もよろしくね。 [2301.10191] Distinct Elements in Streams: An Algorithm for the (Text) Book The CVM Algorithm for Estimating Distinct Elements in Streams Computer scientists invent an efficient new way to count | Hacker News…

1
#135: In-Datacenter Performance Analysis of a Tensor Processing Unit 44:18

39 weeks fa44:18

44:18

行列の掛け算が得意なハードウェアについて森田が読みました。ご意見感想などは Reddit やおたより投書箱にお寄せください。iTunes のレビューや星もよろしくね。 [1704.04760] In-Datacenter Performance Analysis of a Tensor Processing Unit Systolic Arrays – an overview | ScienceDirect Topics Pallas: a JAX kernel language — JAX documentation About Groq – Fast AI Inference The Design Process for Google’s Training Chips: TPUv2 and TPUv3 | IEEE Journals & Magazine | IEEE Xplore…

1
#134: LoRA: Low-Rank Adaptation of Large Language Models 28:40

42 weeks fa28:40

28:40

巨大 ML モデルの軽量 fine-tuning 手法を向井が読みました。ご意見感想などは Reddit やおたより投書箱にお寄せください。 iTunes のレビューや星もよろしくね。 [2106.09685] LoRA: Low-Rank Adaptation of Large Language Models

1
#133: Triton: An Intermediate Language and Compiler for Tiled Neural Network Computations 30:19

45 weeks fa30:19

30:19

CUDA を書かずに済む GPU カーネルの DSL について森田が読みました。ご意見感想などは Reddit やおたより投書箱にお寄せください。 iTunes のレビューや星もよろしくね。 Triton: An Intermediate Language and Compiler for Tiled Neural Network Computations Introducing Triton: Open-source GPU programming for neural networks | OpenAI Welcome to Triton’s documentation! — Triton documentation Hello Triton.ipynb – Colab #01: Tensor Comprehensions, Rust Belt – Misreading Chat #23 – Halide: Decoupling Algorithms from Schedules for High-Performance Image Processing – Misreading Chat #27 – Julia: A Fresh Approach to Numerical Computing – Misreading Chat…

1
#132: High-Resolution Image Synthesis with Latent Diffusion Models 34:30

48 weeks fa34:30

34:30

Stable Diffusion の元論文を向井が読みました。ご意見感想などは Reddit やおたより投書箱にお寄せください。 iTunes のレビューや星もよろしくね。 [2112.10752] High-Resolution Image Synthesis with Latent Diffusion Models [2105.05233] Diffusion Models Beat GANs on Image Synthesis Classifier-Free Diffusion Guidance | OpenReview What are Diffusion Models? | Lil’Log…

1
#131: FlashAttention: Fast and Memory-Efficient Exact Attention with IO-Awareness 30:40

49 weeks fa30:40

30:40

CUDA で書かれた PyTorch 用カーネルに森田が玉砕しました。ご意見感想などは Reddit やおたより投書箱にお寄せください。 iTunes のレビューや星もよろしくね。 [2205.14135] FlashAttention: Fast and Memory-Efficient Exact Attention with IO-Awareness GitHub – Dao-AILab/flash-attention: Fast and memory-efficient exact attention GitHub – NVIDIA/apex: A PyTorch Extension: Tools for easy mixed precision and distributed training in Pytorch [2307.08691] FlashAttention-2: Faster Attention with Better Parallelism and Work Partitioning [2112.05682] Self-attention Does Not Need $O(n^2)$ Memory GitHub – tspeterkim/flash-attention-minimal: Flash Attention in ~100 lines of CUDA (forward pass only)…

1
#130: Diffusion models from scratch, from a new theoretical perspective 30:44

52 weeks fa30:44

30:44

向井が画像生成の拡散モデルに入門しました。ご意見感想などは Reddit やおたより投書箱にお寄せください。 iTunes のレビューや星もよろしくね。 Diffusion models from scratch [1503.03585] Deep Unsupervised Learning using Nonequilibrium Thermodynamics [2006.11239] Denoising Diffusion Probabilistic Models

1
#129: Programming Massively Parallel Processors (Ch.4- Ch.6) 59:43

1 year fa59:43