“犹豫”一词最早出现在《楚辞·离骚》中：“心犹豫而狐疑兮，欲自适而不可。”实际上在此之前，“犹”和“豫”指的分别为两种动物。
“犹”，《说文解字》曰：“陇西谓犬子为犹。”《尸子》“犹，五尺大犬也。”二者认为“犹”为犬类名称。但后来却多倾向于认可它为一种猿类动物。《尔雅》曰：“犹如麂，善登木。”（麂是善于跳跃的一类哺乳动物）《水经注》称“犹”为“犹猢”“似猴而短足，好游岩树，一腾百步，或三百丈，顺往倒返，乘坐若飞”。可知，“犹”具有攀爬的本能。《史记·吕后纪》索隐中则记录了犹的更多特性：“犹，猿类也。夘（mǎo）鼻长尾，性多疑。”因此，“犹”在古代是一种像猴子或猿一样的灵长类动物，它们活泼好动但生性多疑，一旦发现周围有任何的风吹草动，便会爬上树枝，躲在茂密的树叶丛中探头探脑地四处查看。
“豫”，《说文解字》训曰：“象之大者称‘豫’。”胡厚宣先生曾谈道：“殷代气候，不特稍暖，且远较今日为热。”在安阳殷墟曾出土大象遗骸，而出土的甲骨文也记载商朝时期当时的人们捕获、驯养大象。如今河南省的简称“豫”就是这么来的，《周易》中的“豫”卦，均和大象有关。商代的中原人曾与大象长期共存，《左传·襄公二十四年》记载：“象有齿以焚其身，贿也。”洁白柔滑、质地坚韧的象牙成为古人眼中珍贵的工艺品材料。1976年，著名的殷墟妇好墓就出土不少象牙制品。其中的一对商代兽面纹嵌松石象牙杯（又称“夔龙纹象牙杯”），精美绝伦，堪为国宝，现分别藏于中国国家博物馆和中国考古博物馆，是极为罕见的商代象牙酒器珍品。这些考古发现意味着，早在3000多年前，中原的古人的确已经开始驯化大象，也就是所谓“商人服象”。
“豫”字在象形文字中本就为一个人牵着一头象，只是后来气候变化，大象南迁，于是中原的大象也只存在于记忆中了。
那么，古人为何把“豫”与“犹”一起相提并论呢？这就要说到大象的一个特征了。大象虽然体型庞大、孔武有力，但它们在碰到新鲜事物时也常常小心翼翼，特别是在伸着长鼻子取物时，总是左摇右晃地难以确定。
所以《道德经》中对其描述“豫兮，若冬涉川”，形容大象的某些动作就像是冬天蹚过冰冷的河水一样，是进是退难以捉摸。
于是古人认为“犹”与“豫”这两种纠结的动物都有共同的特点，做事不果断、迟疑不决，干脆就将两者放到一起，组成“犹豫”一词。