전체 글 (320) 썸네일형 리스트형 Training on the Test Task Confounds Evaluation and Emergence ■ test data에 대한 학습(training on the test data), leakage, data contamination과 달리, test task에 대한 학습(training on the test task)은 잘못된 것이 아니다. training on the test task를 통해 test task에 관한 knowledge를 활용할 수 있다. ■ 논문에서는 training on the test task의 정도가 모델 간 성능 평가와 emergent capabilities 비교를 교란하는 요인으로 작용할 수 있다고 주장한다. ■ 그리고 이 문제를 해결하기 위해, training on the test task가 benchmark evaluations에 미치는 영향을 보정할 수 있는 방법을.. [Plan-and-Solve Prompting] Improving Zero-Shot Chain-of-Thought Reasoning by Large Language Models ■ multi-step reasoning tasks을 해결하기 위한 few-shot CoT prompting은 few manually crafted step-by-step reasoning demonstrations을 프롬프트에 포함하며, LLM이 reasoning steps을 명시적으로 생성하고 reasoning task accuracy를 높일 수 있게 해준다. ■ 이러한 manual effort를 없애기 위해 Zero-shot-CoT는 target problem statement에 "Let’s think step by step"을 이어 붙여 input prompt로 사용한다. ■ Zero-shot-CoT는 manual effort를 줄이는 데 효과적이지만, 이 방법은 여전히 calculation e.. [ACPBench] Reasoning about Action, Change, and Planning ■ planning과 multi-step reasoning이 필요한 domains에서, LLMs로 orchestrating workflows 및 making decisions을 내리는 agents로 활용하는 연구가 점점 늘어나고 있다. ■ 논문에서는 planning 분야의 reasoning tasks을 평가하기 위한 벤치마크인 ACPBench를 제시한다. 이 벤치마크는 13개 planning domains에 걸친 7가지 reasoning tasks로 구성된다. [2410.05669] ACPBench: Reasoning about Action, Change, and Planning ACPBench: Reasoning about Action, Change, and PlanningThere is an inc.. [Temporal Sampling] Temporal Sampling for Forgotten Reasoning in LLMs ■ 모델이 이전에는 올바르게 해결했던 문제를, fine-tuning 이후에는 해결하지 못하는 경우가 빈번하게 발생한다. 논문에서는 이러한 현상을 Temporal Forgetting이라고 명명한다. ■ 이 현상은 다양한 model sizes, fine-tuning methods (Reinforcement Learning, Supervised Fine-Tuning), 그리고 여러 reasoning benchmarks에 걸쳐 광범위하게 나타난다.■ 저자들은 Temporal Forgetting 현상에서 영감을 받아, Temporal Sampling이라는 decoding 전략을 제안한다. ■ 이 방법은 모델을 다시 학습시키거나 ensembling을 구성하지 않고도 이전의 forgotten solutions을 r.. [Weight Normalization] A Simple Reparameterization to Accelerate Training of Deep Neural Networks ■ 논문에서 제안하는 weight normalization은 neural network의 weight vectors을 reparameterization하여, weight vectors의 길이(크기)와 방향을 decouple하는 방법이다. ■ weights을 reparameterizing함으로써 optimization problem을 개선하고, stochastic gradient descent의 convergence의 속도를 높인다. ■ weight normalization은 훨씬 더 간단하지만 speed-up도 있으며, computational overhead도 낮기 때문에 많은 optimization steps을 수행할 수 있다. [1602.07868] Weight Normalization: A.. [DoRA] Weight-Decomposed Low-Rank Adaptation ■ parameter-efficient fine-tuning (PEFT) method인 LoRA와 LoRA의 variants은 많은 장점이 있지만, 이러한 방법들과 full fine-tuning (FT) 사이에는 여전히 accuracy gap이 존재하는 경우가 많다. ■ 논문에서는 FT와 LoRA 사이에 존재하는 본질적인 차이를 확인하기 위해 새로운 weight decomposition analysis를 도입하고, 이 분석에서 얻은 결과를 바탕으로 Weight-Decomposed Low-Rank Adaptation (DoRA)를 제안한다. ■ DoRA는 fine-tuning을 위해 pre-trained weight를 magnitude와 direction으로 분해한다. directional updates.. [VeRA] Vector-based Random Matrix Adaptation ■ LoRA는 LLM finetuning에서 trainable parameters 수를 줄이는 PEFT method이다. 그러나 모델의 크기가 더욱 커지거나 per-user or per-task adapted models 여러 개를 배포해야 하는 상황에서는 storage challenges에 직면한다. ■ 논문에서는 LoRA와 비교했을 때, trainable parameters 수를 크게 줄이면서도 same performance를 유지할 수 있는 Vector-based Random Matrix Adaptation (VeRA)를 제안한다. ■ VeRA는 모든 layers에서 공유되는 하나의 pair of low-rank matrices을 사용하고, small scaling vectors을 학습함으로써 .. [LongLoRA] Efficient Fine-tuning of Long-Context Large Language Models [2309.12307] LongLoRA: Efficient Fine-tuning of Long-Context Large Language Models LongLoRA: Efficient Fine-tuning of Long-Context Large Language ModelsWe present LongLoRA, an efficient fine-tuning approach that extends the context sizes of pre-trained large language models (LLMs), with limited computation cost. Typically, training LLMs with long context sizes is computationally expensive, requi.. 이전 1 2 3 4 ··· 40 다음
