Le nom précédent d’Abou-Gosh était « Karyat el-Anab » (la « ville du raisin » en arabe) car il se trouvait à l’emplacement de l’ancien village biblique de « Kiryat-Anavim » (la « ville du raisin » en hébreu).
L’appellation du lieu Abou-Gosh provient du nom de la famille propriétaire du terrain depuis le xvie siècle. La famille Abou-Gosh est une famille musulmane originaire du Caucase. On estime que 98 % de la population musulmane d’Abou-Gosh est descendante de cette famille. Au cours des XVIIIe et XIXe siècles, la famille Abou-Gosh se rend célèbre dans la région, car elle perçoit les taxes de passage sur la route menant à Jérusalem, mais également grâce aux relations d’amitié qu’elle a su tisser avec la population juive. Il faut signaler que, même au plus fort de la Guerre d’Indépendance, la population arabe d’Abou-Gosh n’a jamais pris part aux conflits entre Juifs et Arabes.