Как я уже сказал, extra_link_args не является аргументом для установки. Это было бы так:
extra_link_args = []
if platform.system() == 'Darwin':
extra_link_args.append('-Wl,-rpath,' + lib_path)
setup(
name='Mymodule',
#extra_link_args = extra_link_args this is wrong
ext_modules = [Extension("_mymodule", ["mycfile.c"],
depends=[],
libraries = [':mylib.a'],
extra_link_args = extra_link_args, #this is right
)],