座右铭的内容大多是勉励自己，鞭策自己，或是作为行动的准则。其实，最初的座右铭是一种被称为歌器的酒具。这种酒器非常奇特，空着的时候它自己往旁边一斜，如果你把酒装得满满的它就会自己翻倒了，只有在装了半罐的时候才能稳稳当当地站立在那里。春秋五霸之一的齐桓公非常喜欢这种歌器，座位右边总是放着一个歌器，时刻警诫自己不要骄傲自满。相传，有一次，孔子率弟子朝拜齐桓公的庙堂。孔子起初不知是何物，他从看香火的人那里了解了歌器的功能和来历，便利用讲学的机会给弟子讲述当年齐桓公的故事；回去后也请人做了一个，放在自己座位的右边。
据考证，“座右铭”一词最早见于《文选》中崔瑗《座右铭》一文。吕延济题注说：“瑗兄璋为人所杀，瑗遂手刃其仇，亡命，蒙赦而出，作此铭以自戒，尝置座右，故曰‘座右铭’也。”
今天的座右铭，大多贴在屋里显眼的墙上，或写在自己笔记本的扉页，有的则放在桌面上。