在办理延签时，护照需要留在外管局。

因为在德国留学签证过期后需要进行延签手续，外管局是负责此项工作的机构，而且延签需要以过期签证为依据，因此在办理延签时需要提交过期签证和护照，而护照则需要留在外管局进行审核和处理。

此外，如果在过期签证的情况下未及时延签或是离开德国，则可能会被视为非法滞留，给自己带来不必要的麻烦和损失。

因此，及时办理延签手续是非常重要的。