肥皂是脂肪酸金属盐的总称，金属主要是钠或钾等碱金属。最早的肥皂成分也不外乎就是碳酸钠和碳酸钾，前者为天然湖矿产品，后者就是草木灰的主要洗涤成分。如今的肥皂中，还添加了合成色素、合成香料、防腐剂、抗氧化剂、发泡剂、硬化剂、粘稠剂、合成界面活性剂等等。
据史料记载，最早的肥皂配方起源于西亚的美索不达米亚，约在公元前3000年，人们便将1份油和5份碱性植物灰混合制成清洁剂。但在世界各地都有关于肥皂起源的传说。比如古罗马的高卢人，每遇节日便将羊油和山毛榉树灰溶液搅成稠状涂在头发上，梳成各种发型。一次节日突遇大雨，淋坏了发型，却意外洗干净了头发。
又传说，古罗马人在祭神时，烧烤的牛羊油滴落在草木灰里，形成了「油脂球」。妇女们洗衣时发现，沾了油脂球的衣服更易洗干净。这都说明了人们用动物脂肪与草木灰（碱）皂已用千年历史。而且考古学家在意大利的庞贝古城遗址中还发现了制肥皂的作坊，说明罗马人早在公元2世纪已经开始了原始的肥皂生产。
而古埃及的肥皂，则是一个厨师不小心把食用油打翻在地，又趁别人没有发现时急忙用灶炉里的草木灰覆盖，再用手捧出去扔掉了。回来以后用水清洗，只是轻轻地搓了几下，那满手的油腻就很容易地洗掉了，甚至连十分难清洗的老污垢也随之被洗掉了。后来厨房里的佣人们就经常用油脂拌草木灰来洗手。
最后这个办法竟然传到了法老王的耳朵里，他便让厨师做些拌了油的草木灰供他洗手用。当然，传说毕竟只是传说，未必完全当真。不过埃及亚历山大城附近的埃及湖中，盛产天然碳酸钠，因此古埃及洗涤技术相对发达，发明肥皂也就不足为怪了。
我国在宋朝时就出现了人工合成的洗涤剂，而且还是香的。人们将天然皂荚(皂角)捣碎细研，加上香料等物，制成桔子大小的球状，专供洗面浴身之用，俗称「肥皂团」。而根据宋人周密的《武林旧事》，南宋京都临安那时就已经有了专门经营「肥皂团」的生意人。
早期的肥皂是奢侈品，18世纪法国人利用盐及石炭制作「人工苏打」，取代传统自灰烬中取出的碱汁。到了19世纪，德国人发明以电气分解食盐水来制作氢氧化钠；自此之后，苛性钠的普及，得以让肥皂从原本只有王宫贵族买得起的商品，摇身一变，变成平民百姓的日常生活用品。
