根据中国古代小说《十品官》的情节，吴山羊和小玲最终并没有在一起。吴山羊虽然爱慕小玲，但他一直忠于官职和职责，最终选择了在京城继续任官，并没有地结局中和小玲团聚在一起。小玲继续留在南方的农村，过上了平淡而安定的生活。虽然两人没有在一起，但他们依然保持联系，保持了一种特殊的友谊和情感纽带。