早在公元前3600年以前的美索不达米亚文化时期，就已经出现了内部控制的初级形式。在当时极为简单的财物管理活动中，经手钱财的人用各种标志来记录财物的生产和使用情况，以防止其丢失和挪用。例如，经手钱财者要为付出款项提供付款清单，并由另一记录员将这些清单汇总报告。

到15世纪末，随着资本主义经济的初步发展，内部牵制也发展到了一个新的阶段。以在意大利出现的复式记账方法为标志，内部牵制制度渐趋成熟。它的主要内容是账目间的相互核对并实施一定程度的岗位分离。18世纪产业革命以后，企业规模逐渐扩大，公司制企业开始出现，特别是公司内部稽核制度因收效显著而为各大企业纷纷效仿。当时，这种内部牵制制度主要是由职责分工、会计记账、人员轮换等控制要素所构成，目的是防范财产物资流转和管理中的舞弊，保证企业资产的安全和完整。

20世纪初期，西方资本主义经济得到了极大的发展，生产关系和生产力的重大变化促进了社会化大生产程度的发展，加剧了企业间的竞争，加强企业的内部控制管理成了关系企业生死存亡的关键因素。因而一些企业在非常激烈的竞争中，逐步摸索出一些组织调节、制约和检查企业生产活动的办法，即当时的内部牵制制度基本上是以查错防弊为目的，以职务分离和交互核对为手法，针对的主要是钱、账、物等会计事项，这也是现代内部控制理论中有关组织控制、职务分离控制的雏形。当时，一般认为，“内部牵制是账户和程序组成的协作系统，这个系统使得员工在从事本职工作时，独立地对其他员工的工作进行连续性的检查，以确定其舞弊的可能性”。

对内部牵制的概念解释得最为全面的是《柯勒会计辞典》（Kohler’s Dictionary for Accountants）。《柯勒会计辞典》认为：“内部牵制是指以提供有效的组织和经营，并防止错误和其他非法业务发生的业务流程设计。其主要特点是以任何个人或部门不能单独控制任何一项或一部分业务权力的方式进行组织上的责任分工，每项业务通过正常发挥其他个人或部门的功能进行交叉检查或交叉控制。设计有效的内部牵制以使每项业务能完整、正确地经过规定的处理程序，而在这规定的处理程序中，内部牵制机制永远是一个不可缺少的组成部分。”

内部牵制制度的出现有其科学合理性，主要基于以下两个假定：第一，因为相互有了制衡，在经办一项交易或事项时，两个或两个以上人员或部门无意识地犯同样的错误的概率要大大小于一个人或部门；第二，两个或两个以上人员或部门有意识地合伙舞弊的可能性大大低于一个人或部门。

由此可见，内部牵制是以不相容职务分离为主要内容的流程设计，是内部控制的最初形式和基本形态。其目的比较单一，即保证财产物资的安全和完整，防止贪污、舞弊。作为一种管理制度，内部牵制基本上不涉及会计信息的真实性和工作效率的提高问题，因此，其范围和管理作用都比较有限。到20世纪40年代末期，生产的社会化程度空前提高，股份有限公司迅速发展，市场竞争进一步加剧。为了在激烈的竞争中生存发展，企业迫切需要在管理上采用更为完善、有效的控制方法。另一方面，为了适应股份日益分散的实际和保护社会公众投资者的利益，西方国家纷纷以法律的形式要求企业披露会计信息，这样对会计信息的真实性就提出了更高的要求。因此，传统的内部牵制制度已经无法满足上述企业管理和会计信息披露的需要，现代意义上的内部控制的产生已经成为一种必然。