Почему мои Gradle строят умирающие с кодом выхода 137?
Я пытался скомпилировать и протестировать большой проект, чтобы использовать Gradle. Тест проходит нормально, пока они не умрут неожиданно. Я выкопался, и ресурсы сказали, что это связано с проблемой памяти. Если я уменьшу количество тестов в наборе, он будет работать нормально.
Я увеличил объем памяти на 4 раза, увеличил уровень отладки, но я все еще не следую тому, что вызывает это. Вот ужасно загадочная стоп-трасса. Последняя строка (прокрутка вправо) показывает настройки памяти, которые я определил.
...
...
...
1125 tests completed, 30 failed, 9 skipped
:test FAILED
:test (Thread[Daemon worker,5,main]) completed. Took 8 mins 39.684 secs.
FAILURE: Build failed with an exception.
* What went wrong:
Execution failed for task ':test'.
> Process 'Gradle Test Executor 1' finished with non-zero exit value 137
* Try:
Run with --debug option to get more log output.
* Exception is:
org.gradle.api.tasks.TaskExecutionException: Execution failed for task ':test'.
at org.gradle.api.internal.tasks.execution.ExecuteActionsTaskExecuter.executeActions(ExecuteActionsTaskExecuter.java:69)
at org.gradle.api.internal.tasks.execution.ExecuteActionsTaskExecuter.execute(ExecuteActionsTaskExecuter.java:46)
at org.gradle.api.internal.tasks.execution.PostExecutionAnalysisTaskExecuter.execute(PostExecutionAnalysisTaskExecuter.java:35)
at org.gradle.api.internal.tasks.execution.SkipUpToDateTaskExecuter.execute(SkipUpToDateTaskExecuter.java:64)
at org.gradle.api.internal.tasks.execution.ValidatingTaskExecuter.execute(ValidatingTaskExecuter.java:58)
at org.gradle.api.internal.tasks.execution.SkipEmptySourceFilesTaskExecuter.execute(SkipEmptySourceFilesTaskExecuter.java:52)
at org.gradle.api.internal.tasks.execution.SkipTaskWithNoActionsExecuter.execute(SkipTaskWithNoActionsExecuter.java:52)
at org.gradle.api.internal.tasks.execution.SkipOnlyIfTaskExecuter.execute(SkipOnlyIfTaskExecuter.java:53)
at org.gradle.api.internal.tasks.execution.ExecuteAtMostOnceTaskExecuter.execute(ExecuteAtMostOnceTaskExecuter.java:43)
at org.gradle.execution.taskgraph.DefaultTaskGraphExecuter$EventFiringTaskWorker.execute(DefaultTaskGraphExecuter.java:203)
at org.gradle.execution.taskgraph.DefaultTaskGraphExecuter$EventFiringTaskWorker.execute(DefaultTaskGraphExecuter.java:185)
at org.gradle.execution.taskgraph.AbstractTaskPlanExecutor$TaskExecutorWorker.processTask(AbstractTaskPlanExecutor.java:66)
at org.gradle.execution.taskgraph.AbstractTaskPlanExecutor$TaskExecutorWorker.run(AbstractTaskPlanExecutor.java:50)
at org.gradle.execution.taskgraph.DefaultTaskPlanExecutor.process(DefaultTaskPlanExecutor.java:25)
at org.gradle.execution.taskgraph.DefaultTaskGraphExecuter.execute(DefaultTaskGraphExecuter.java:110)
at org.gradle.execution.SelectedTaskExecutionAction.execute(SelectedTaskExecutionAction.java:37)
at org.gradle.execution.DefaultBuildExecuter.execute(DefaultBuildExecuter.java:37)
at org.gradle.execution.DefaultBuildExecuter.access$000(DefaultBuildExecuter.java:23)
at org.gradle.execution.DefaultBuildExecuter$1.proceed(DefaultBuildExecuter.java:43)
at org.gradle.execution.DryRunBuildExecutionAction.execute(DryRunBuildExecutionAction.java:32)
at org.gradle.execution.DefaultBuildExecuter.execute(DefaultBuildExecuter.java:37)
at org.gradle.execution.DefaultBuildExecuter.execute(DefaultBuildExecuter.java:30)
at org.gradle.initialization.DefaultGradleLauncher$4.run(DefaultGradleLauncher.java:154)
at org.gradle.internal.Factories$1.create(Factories.java:22)
at org.gradle.internal.progress.DefaultBuildOperationExecutor.run(DefaultBuildOperationExecutor.java:90)
at org.gradle.internal.progress.DefaultBuildOperationExecutor.run(DefaultBuildOperationExecutor.java:52)
at org.gradle.initialization.DefaultGradleLauncher.doBuildStages(DefaultGradleLauncher.java:151)
at org.gradle.initialization.DefaultGradleLauncher.access$200(DefaultGradleLauncher.java:32)
at org.gradle.initialization.DefaultGradleLauncher$1.create(DefaultGradleLauncher.java:99)
at org.gradle.initialization.DefaultGradleLauncher$1.create(DefaultGradleLauncher.java:93)
at org.gradle.internal.progress.DefaultBuildOperationExecutor.run(DefaultBuildOperationExecutor.java:90)
at org.gradle.internal.progress.DefaultBuildOperationExecutor.run(DefaultBuildOperationExecutor.java:62)
at org.gradle.initialization.DefaultGradleLauncher.doBuild(DefaultGradleLauncher.java:93)
at org.gradle.initialization.DefaultGradleLauncher.run(DefaultGradleLauncher.java:82)
at org.gradle.launcher.exec.InProcessBuildActionExecuter$DefaultBuildController.run(InProcessBuildActionExecuter.java:94)
at org.gradle.tooling.internal.provider.ExecuteBuildActionRunner.run(ExecuteBuildActionRunner.java:28)
at org.gradle.launcher.exec.ChainingBuildActionRunner.run(ChainingBuildActionRunner.java:35)
at org.gradle.launcher.exec.InProcessBuildActionExecuter.execute(InProcessBuildActionExecuter.java:43)
at org.gradle.launcher.exec.InProcessBuildActionExecuter.execute(InProcessBuildActionExecuter.java:28)
at org.gradle.launcher.exec.ContinuousBuildActionExecuter.execute(ContinuousBuildActionExecuter.java:78)
at org.gradle.launcher.exec.ContinuousBuildActionExecuter.execute(ContinuousBuildActionExecuter.java:48)
at org.gradle.launcher.daemon.server.exec.ExecuteBuild.doBuild(ExecuteBuild.java:52)
at org.gradle.launcher.daemon.server.exec.BuildCommandOnly.execute(BuildCommandOnly.java:36)
at org.gradle.launcher.daemon.server.api.DaemonCommandExecution.proceed(DaemonCommandExecution.java:120)
at org.gradle.launcher.daemon.server.exec.WatchForDisconnection.execute(WatchForDisconnection.java:37)
at org.gradle.launcher.daemon.server.api.DaemonCommandExecution.proceed(DaemonCommandExecution.java:120)
at org.gradle.launcher.daemon.server.exec.ResetDeprecationLogger.execute(ResetDeprecationLogger.java:26)
at org.gradle.launcher.daemon.server.api.DaemonCommandExecution.proceed(DaemonCommandExecution.java:120)
at org.gradle.launcher.daemon.server.exec.RequestStopIfSingleUsedDaemon.execute(RequestStopIfSingleUsedDaemon.java:34)
at org.gradle.launcher.daemon.server.api.DaemonCommandExecution.proceed(DaemonCommandExecution.java:120)
at org.gradle.launcher.daemon.server.exec.ForwardClientInput$2.call(ForwardClientInput.java:74)
at org.gradle.launcher.daemon.server.exec.ForwardClientInput$2.call(ForwardClientInput.java:72)
at org.gradle.util.Swapper.swap(Swapper.java:38)
at org.gradle.launcher.daemon.server.exec.ForwardClientInput.execute(ForwardClientInput.java:72)
at org.gradle.launcher.daemon.server.api.DaemonCommandExecution.proceed(DaemonCommandExecution.java:120)
at org.gradle.launcher.daemon.server.health.DaemonHealthTracker.execute(DaemonHealthTracker.java:40)
at org.gradle.launcher.daemon.server.api.DaemonCommandExecution.proceed(DaemonCommandExecution.java:120)
at org.gradle.launcher.daemon.server.exec.LogToClient.doBuild(LogToClient.java:66)
at org.gradle.launcher.daemon.server.exec.BuildCommandOnly.execute(BuildCommandOnly.java:36)
at org.gradle.launcher.daemon.server.api.DaemonCommandExecution.proceed(DaemonCommandExecution.java:120)
at org.gradle.launcher.daemon.server.exec.EstablishBuildEnvironment.doBuild(EstablishBuildEnvironment.java:72)
at org.gradle.launcher.daemon.server.exec.BuildCommandOnly.execute(BuildCommandOnly.java:36)
at org.gradle.launcher.daemon.server.api.DaemonCommandExecution.proceed(DaemonCommandExecution.java:120)
at org.gradle.launcher.daemon.server.health.HintGCAfterBuild.execute(HintGCAfterBuild.java:41)
at org.gradle.launcher.daemon.server.api.DaemonCommandExecution.proceed(DaemonCommandExecution.java:120)
at org.gradle.launcher.daemon.server.exec.StartBuildOrRespondWithBusy$1.run(StartBuildOrRespondWithBusy.java:50)
BUILD FAILED at org.gradle.launcher.daemon.server.DaemonStateCoordinator$1.run(DaemonStateCoordinator.java:246)
at org.gradle.internal.concurrent.ExecutorPolicy$CatchAndRecordFailures.onExecute(ExecutorPolicy.java:54)
at org.gradle.internal.concurrent.StoppableExecutorImpl$1.run(StoppableExecutorImpl.java:40)
Caused by: org.gradle.process.internal.ExecException: Process 'Gradle Test Executor 1' finished with non-zero exit value 137
Total time: 9 mins 38.624 secs
at org.gradle.process.internal.DefaultExecHandle$ExecResultImpl.assertNormalExitValue(DefaultExecHandle.java:367)
at org.gradle.process.internal.DefaultWorkerProcess.waitForStop(DefaultWorkerProcess.java:161)
at org.gradle.api.internal.tasks.testing.worker.ForkingTestClassProcessor.stop(ForkingTestClassProcessor.java:86)
at org.gradle.api.internal.tasks.testing.processors.RestartEveryNTestClassProcessor.endBatch(RestartEveryNTestClassProcessor.java:60)
at org.gradle.api.internal.tasks.testing.processors.RestartEveryNTestClassProcessor.stop(RestartEveryNTestClassProcessor.java:54)
at org.gradle.messaging.dispatch.ReflectionDispatch.dispatch(ReflectionDispatch.java:35)
at org.gradle.messaging.dispatch.ReflectionDispatch.dispatch(ReflectionDispatch.java:24)
at org.gradle.messaging.dispatch.FailureHandlingDispatch.dispatch(FailureHandlingDispatch.java:29)
at org.gradle.messaging.dispatch.AsyncDispatch.dispatchMessages(AsyncDispatch.java:132)
at org.gradle.messaging.dispatch.AsyncDispatch.access$000(AsyncDispatch.java:33)
at org.gradle.messaging.dispatch.AsyncDispatch$1.run(AsyncDispatch.java:72)
... 2 more
Stopped 0 compiler daemon(s).
Received result Failure[value=org.gradle.initialization.ReportedException: org.gradle.internal.exceptions.LocationAwareException: Execution failed for task ':test'.] from daemon DaemonInfo{pid=48, address=[65adcc0f-8881-4511-b7a0-1b88c7016510 port:34390, addresses:[/0:0:0:0:0:0:0:1%lo, /127.0.0.1]], idle=false, context=DefaultDaemonContext[uid=14546872-57d6-4da6-8358-dc41cb7bb01d,javaHome=/usr/lib/jvm/java-8-oracle,daemonRegistryDir=/srv/myapplication/.gradle/daemon,pid=48,idleTimeout=120000,daemonOpts=-XX:MaxMetaspaceSize=320m,-XX:+DisableExplicitGC,-XX:+UseConcMarkSweepGC,-XX:NewSize=124m,-XX:SurvivorRatio=16,-Xms257m,-Xmx2049m,-Dfile.encoding=UTF-8,-Duser.country=US,-Duser.language=en,-Duser.variant]} (build should be done).
Ответы
Ответ 1
Эта проблема, похоже, связана с Linux, а не с Gradle, как указано в документах Jenkins:
В случае, когда виртуальная память работает коротко, убийца ядра OOM (Out of Memory) может принудительно убить Дженкинса или отдельные сборки. Если это происходит в Linux, вы можете увидеть, что сборка завершается с кодом выхода 137 (128 + номер сигнала для SIGKILL). В результате вывода команды dmesg
будут отображаться сообщения журнала, которые подтвердят действие, которое заняло ядро.
https://wiki.jenkins-ci.org/display/JENKINS/I'm+getting+OutOfMemoryError
Ответ 2
У меня была аналогичная проблема на сервере DigitalOcean, моя градирная сборка завершилась неудачно на стадии test
с очень похожим стеклом и без выполнения одного теста.
В документах Gradle указывается, что демоном градиента не следует запускать в средах CI. Поэтому я просто добавил --no-daemon
в мою команду сборки, и все сработало хорошо и хорошо. Также ./gradlew --stop
остановка демона с ./gradlew --stop
, но он работал только для одной сборки - следующий тоже не удался.
Моя команда сборки:
./gradlew build --no-daemon
Ответ 3
У меня была такая же проблема, но в среде CI, где сборка запускалась в Docker- контейнере. В этом конкретном случае JVM не знает, сколько памяти она может использовать, и вы можете столкнуться с такими проблемами.
Чтобы JVM знала, сколько памяти доступно, вы можете использовать
gradle build -Dorg.gradle.jvmargs=-XX:+UnlockExperimentalVMOptions -XX:+UseCGroupMemoryLimitForHeap
а также установите его в своих тестовых заданиях:
test {
jvmArgs "-XX:+UnlockExperimentalVMOptions", "-XX:+UseCGroupMemoryLimitForHeap"
}
Это новая функция JVM, представленная в 8u131+
см.: http://royvanrijn.com/blog/2018/05/java-and-docker-memory-limits/
Ответ 4
У меня также была такая же проблема на CircleCI, но мне не повезло ни с одним из вышеперечисленных. Вот что я нашел:
- Добавление
-Dorg.gradle.daemon=false
к моему CircleCI config.yml
остановил использование демона, но не config.yml
проблему. - Добавление
-Dorg.gradle.workers.max=2
к GRADLE_OPTS
, или --max-workers 2
к команде gradle, похоже, не сильно повлияло на то, что я мог видеть. Я попробовал --max-workers=2
всякий случай, потому что оба формата, похоже, плавают в Google. Я подключился к моему контейнеру CircleCI, и в top
я все еще мог видеть 3-4 процесса Java, отбрасывающих, поэтому не уверен, что это что-то делает? - Я также попробовал max workers = 1 в приведенных выше комбинациях.
- Пробовал
-XX:+UnlockExperimentalVMOptions
и -XX:+UseCGroupMemoryLimitForHeap
как в аргументах JVM, так и в test {}
конфигурации внутри моей сборки, как это было предложено Baptiste Mesta. Я не вижу, как это может сработать; Я бы подумал, что несколько разветвленных процессов не знают, какую долю памяти контейнера используют другие процессы? Если я не понимаю его правильно.
В конце концов, я исправил это, просто будучи красивым и явным с настройками памяти, а не с помощью магии:
- Circle CI config:
GRADLE_OPTS: -Xmx2048m -Dorg.gradle.daemon=false
- Gradle build:
test { maxHeapSize = "512m" }
Изменить. Возможно, вам придется идти ниже, в зависимости от того, запущены ли другие процессы.
Ответ 5
У меня была похожая проблема с агентами Bamboo (работающими на Docker) с Gradle 4.6. test
задание внезапно завершается с
build 27-Dec-2018 22:00:20 22:00:20.018 [DEBUG] [org.gradle.process.internal.DefaultExecHandle] Process 'Gradle Test Executor 1' finished with exit value 137 (state: FAILED)
У нас более 3000 юнит-тестов. В нашем случае проблема была решена с помощью forkEvery
чтобы ограничить число тестовых классов, выполняемых на процесс выполнения теста, а также ограничить использование памяти:
test {
maxHeapSize '512m'
forkEvery 100
jvmArgs '-Xmx512m', '-Xms512m'
}
Ответ 6
Аналогично ответу Baptiste Mesta, но для JDK 11 я использовал опцию UseContainerSupport JVM для решения моей сборки Jenkins.
./gradlew test --no-daemon -Dorg.gradle.jvmargs=-XX:+UseContainerSupport
Ответ 7
Если у вас возникли проблемы с этим на CircleCi, где вы пытаетесь запустить Robolectric Test
Я нашел решение своих проблем на их странице документации для Android
https://circleci.com/docs/2.0/language-android/
который был просто добавить
android {
testOptions {
unitTests {
returnDefaultValues = true
includeAndroidResources = true
all {
maxHeapSize = "1024m"
}
}
}
Если вы все еще сталкиваетесь с проблемами OOM, вы также можете ограничить максимальное количество рабочих для gradle:./gradlew test --max-worker 4
Ответ 8
Это на самом деле проблема с памятью. Как правило, контейнер Docker имеет ограничение памяти 4G, поэтому вам нужно позаботиться о том, чтобы ваша куча java не пересекала этот предел, есть несколько решений, я обращаюсь к Android
Добавьте это в gradle.properties (измените размер в соответствии с вашими потребностями)
org.gradle.jvmargs=-Xmx10248m -XX:MaxPermSize=256m
Добавьте это в свой build.gradle
android.testOptions.unitTests.all { maxHeapSize = "1024m" }
или
android {
testOptions {
unitTests {
// Any other configurations
all {
maxHeapSize = "1024m"
}
}
}
Если у вас все еще возникают проблемы с OOM, вы также можете ограничить максимальное количество рабочих для gradle: ./gradlew test --max-workers 4
Надеюсь это поможет.