Sarımsağın kökenine dair farklı inançlar bulunsa da yaygın inanç anayurdunun Orta Asya olduğu yönündedir.
Arkeolojik kayıtlardan Sümerler ‘in sarımsağı bildiği ve ilaç olarak kullandıkları bilinmektedir.
Mısır piramitlerinin inşasında çalışan işçilere ise güçten düşmesinler diye bol bol sarımsak yedirildiği anlaşılmıştır. Ayrıca Mısırlılar sarımsağı ölümcül hastalıklara karşı ilaç olarak kullanmışlar ve tanrılara ait kutsal bir bitki olarak kabul etmişlerdir.
Sarımsak, M.Ö 2. ve 1.yüzyıllarda Çin'de ilaç olarak kullanılırken Ortaçağ'da da kolera ve veba gibi salgın hastalıklarla mücadelede kullanılmıştır. Ayrıca Ortaçağ'da sarımsağın mistik gücüne inanan insanlar, vampir ve şeytandan korunmak için üzerlerinde sarımsak taşımışlardır.