1884年，德国正式开始殖民活动。鉴于帝国议会的反对和拒绝接受财政援助，俾斯麦也不愿意争夺殖民地，因为这将影响德国与英法两国的关系。但1884年德国与法国达成了谅解，德意志帝国的国旗开始出现在非洲西南部、多哥兰、喀麦隆、新几内亚北部和毗邻的岛屿，到了1885年桑给巴尔对面的非洲东海岸也开始成为德国的殖民地。在1884年和1890年，柏林分别召开了两次重要会议，1890年的会议划定了非洲的殖民地边界，确定了欧洲各国在非洲的殖民地，一直延续到今天（1917）。俾斯麦辞职后，德国与英国达成协议，把桑给巴尔保护地让给了英国，以换取赫尔戈兰岛。但这份协议遭到了严厉的批评，批评者除了俾斯麦本人以外，还有德国殖民政党，这个政党曾在1887年联合各种组织成立了德意志殖民协会（德意志殖民公司），主张推行强有力的殖民政策。