大約100萬年前，小麥屬分化出了野生一粒小麥和烏拉爾圖小麥，兩者產生生殖隔離，大約50萬年前，烏拉爾圖小麥和擬山羊草發生了天然雜交，最重要的野生二粒小麥誕生。目前世界公認最早的小麥栽培地，位于1萬年前的“新月沃地”，我國小麥起源以“外來起源說為主”。

考古學研究表明，小麥是新石器時代人類對其祖先植物進行馴化的產物，栽培歷史已有萬年以上。中亞的廣大地區曾在史前原始社會居民點上發掘出許多殘留的實物，其中包括野生和栽培的小麥干小穗、干子粒、炭化麥粒以及麥穗、麥粒在硬泥上的印痕。其后，小麥即從西亞、中東一帶西向傳入歐洲和非洲，東向傳入印度、阿富汗、中國。中國的小麥則由黃河中游向外傳播，逐漸擴展到長江以南各地；并傳入朝鮮、日本。15世紀至17世紀間，歐洲殖民者將小麥傳至南、北美洲；18世紀，小麥才傳到大洋洲。

1955年在中國安徽省亳縣釣魚臺發掘的新石器時代遺址中發現有炭化小麥種子。殷墟出土的甲骨有“告麥”的文字記載，說明小麥早已是河南北部的主要栽培作物。《詩經·周頌·思文》中已有小麥、大麥的記載，說明西周時黃河中下游已遍栽小麥。近年中國發現西藏高原存在麥穗于早期自行斷節的普通小麥原始類型散生于普通麥田；新疆伊犁河谷分布有大片的節節麥原始群落，而黃河中游地區早就有節節麥散生于麥田中。從漢朝以后，小麥開始慢慢向南方推廣，北方也在持續發展。