заставляя maven использовать локальную зависимость - PullRequest
Новая
       24

заставляя maven использовать локальную зависимость

0 голосов
/ 28 ноября 2018

Я застрял с проблемой, которая может показаться глупой, но я не знаю, как ее решить.Я также посмотрел онлайн, но ни одно из решений не работает для меня.

У меня есть искровой код, использующий модуль spark graphX.Мне нужно внести изменения в graphX ​​и заставить мой проект использовать эту модифицированную версию graphX.Для этого я сначала извлек модуль graphx из исходного кода spark и скомпилировал его самостоятельно.Затем я указываю зависимость в моем файле pom.xml приложения, который имеет область действия «система».Вот мое приложение pom. 

<?xml version="1.0" encoding="UTF-8"?>
<project xmlns="http://maven.apache.org/POM/4.0.0" xmlns:xsi="http://www.w3.org/2001/XMLSchema-instance" xsi:schemaLocation="http://maven.apache.org/POM/4.0.0 http://maven.apache.org/maven-v4_0_0.xsd">
  <groupId>edu.asu.gears.examples.spark</groupId>
  <artifactId>PageRank</artifactId>
  <packaging>jar</packaging>
  <name>"PageRank"</name>
  <version>1.0</version>
  <modelVersion>4.0.0</modelVersion>

  <!--
  <repositories>
    <repository>
      <id>scala-tools.org</id>
      <name>Scala-tools Maven2 Repository</name>
      <url>http://scala-tools.org/repo-releases</url>
    </repository>
  </repositories>
  -->
  <properties>
        <java.version>1.8.0</java.version>
    <scala.version>2.11.8</scala.version>
    <scala.binary.version>2.11</scala.binary.version>
        <scala.tools.version>2.11</scala.tools.version>
    <spark.version>2.3.2</spark.version>
    <project.build.sourceEncoding>UTF-8</project.build.sourceEncoding>
    <project.reporting.outputEncoding>UTF-8</project.reporting.outputEncoding>
    <blaze.version>1.0</blaze.version>
    <blaze.base>/home/user/sbiookag/blaze-master</blaze.base>
  </properties>

  <pluginRepositories>
    <pluginRepository>
      <id>scala-tools.org</id>
      <name>Scala-tools Maven2 Repository</name>
      <url>http://scala-tools.org/repo-releases</url>
    </pluginRepository>
  </pluginRepositories>
  <dependencies>
        <dependency>
                <groupId>org.apache.spark</groupId>
                <artifactId>spark-graphx_${scala.binary.version}</artifactId>
                <version>${spark.version}</version>
                <scope>system</scope>
                <systemPath>${blaze.base}/examples/pageRank/APPs/GraphXFPGAApp/graphx/target/spark-graphx_2.11-3.0.0-SNAPSHOT.jar</systemPath>
        </dependency>

        <dependency>
                <groupId>org.scala-lang</groupId>
                <artifactId>scala-library</artifactId>
                <version>${scala.version}</version>
        </dependency>
    <dependency>
      <groupId>org.apache.spark</groupId>
      <artifactId>spark-core_${scala.binary.version}</artifactId>
      <version>${spark.version}</version>
    </dependency>
    <dependency>
      <groupId>org.apache.spark</groupId>
      <artifactId>spark-mllib_${scala.binary.version}</artifactId>
      <version>${spark.version}</version>
    </dependency>
        <!--
    <dependency>
      <groupId>org.apache.spark</groupId>
      <artifactId>blaze_${scala.binary.version}</artifactId>
      <version>1.0.1</version>
    </dependency>
        -->
  </dependencies>
  <build>
    <plugins>
      <plugin>
        <groupId>org.scala-tools</groupId>
        <artifactId>maven-scala-plugin</artifactId>
        <executions>
          <execution>
            <goals>
              <goal>compile</goal>
            </goals>
          </execution>
        </executions>
      </plugin>
    </plugins>
  </build>
</project>

Когда я компилирую свой код, он все равно загружает зависимость от GraphX ​​и, похоже, использует оригинальный файл JAR также во время выполнения.Я действительно не знаю, как решить эту проблему.Любая помощь будет оценена.

1 Ответ

0 голосов
/ 28 ноября 2018

spark-mllib содержит зависимость от spark-graphx.Вы должны исключить это в вашем pom.xml: 

 <dependency>
  <groupId>org.apache.spark</groupId>
  <artifactId>spark-mllib_${scala.binary.version}</artifactId>
  <version>${spark.version}</version>
  <exclusions>
    <exclusion>
      <groupId>org.apache.spark</groupId>
      <artifactId>spark-graphx_${scala.binary.version}</artifactId>
    </exclusion>
  </exclusions>
</dependency>
...