Až do 6. století po Kr. se užívalo k nasedání na koně buď „nasedacích“ kamenů, zřízených při cestách, nebo výstupků či kožených kuliček na oštěpech a kopích. Zárodkem t. je prkénko na provazcích na obrazu koně asyrského krále Salmanasara III. někdy z pol. 9. století př. Kr. Pravděpodobně je t. původu hunského.
První bezpečnou zprávu o třmenu nynějšího způsobu máme ze spisu řeckého vojenského spisovatele Maurikia, s poč. 6. století. Zmiňuje se však jen o užívání jednoho třmenu, po levém boku koně. Dva třmeny u sedla se vyskytují až někdy v 10. století.