Ngày trước ở nông thôn, tổng là đơn vị hành chính cấp cơ sở (theo cách nói bây giờ) bao gồm một số xã, nhiều tổng mới hợp thành một phủ (tương đương huyện bây giờ). Trong tổng, to nhất là chánh tổng rồi đến lý trưởng các làng xã và bé nhất là anh mõ làng, tức là người đàn ông cùng đinh, không có tấc đất cắm dùi, chuyên đi làm thuê và kiềm nghề làm mõ. Hể có việc gì của làng: ma chay, đình đám, cưới xin thuế má thì anh mõ có trách nhiệm phải đi gõ mõ báo tin cho cả làng, cả xã biết. Anh mõ phải làm nhiệm vụ ấy như một nghĩa vụ với làng mà không được trả công, không được hưởng một quyền lợi gì cả. Ngoài một công cụ thông tin là cái mõ, ngày xưa còn cái tù và tức là vỏ một con ốc biển hoặc một cái sừng trâu thông hai đầu dùng hơi thổi để báo tin tức, việc làng. Việc dùng tù và đi thổi khắp làng, khắp tổng mà chẳng được hưởng lợi lộc gì chính là cơ sở để xuất hiện thành ngữ ăn cơm nhà thổi tù và hàng tổng hay ăn cơm nhà vác tù và hàng tổng.
 
Thành ngữ trên thường được dùng trong tiếng Việt để nói cái ý những người làm việc công, và không được hưởng tí quyền lợi gì.
 
Dần dà, thành ngữ ăn cơm nhà thổi tù và hàng tổng hay ăn cơm nhà vác tù và hàng tổng được mở rộng ý nghĩa ra. Tất cả những việc làm tốn công, vô ích vì không mang lại được hiệu quả gì đều có thể được ví bằng thành ngữ này.
 
Gần nghĩa với thành ngữ này, trong tiếng Việt còn có thành ngữ ăn cơm nhà vác ngà voi.