Итерация по строкам файла
я хотел бы написать простую функцию, которая повторяет строки текстового файла. Я верю в 2.8
можно было бы сделать:
def lines(filename: String) : Iterator[String] = {
scala.io.Source.fromFile(filename).getLines
}
и это было так, но в 2.9
выше не работает, и вместо этого я должен сделать:
def lines(filename: String) : Iterator[String] = {
scala.io.Source.fromFile(new File(filename)).getLines()
}
теперь проблема в том, что я хочу составить вышеуказанные итераторы в for
понимание:
for ( l1 <- lines("file1.txt"); l2 <- lines("file2.txt") ){
do_stuff(l1, l2)
}
этот раз, работала с 2.8
но вызывает "слишком много открытых файлов"
исключение для ввода 2.9
. Это понятно -- второй lines
в результате понимания открывается (а не закрывается) файл для каждой строки
в первом.
в моем случае, я знаю, что "file1.txt"
большой, и я не хочу сосать его в
память, но второй файл маленький, поэтому я могу написать другой linesEager
вот так:
def linesEager(filename: String): Iterator[String] =
val buf = scala.io.Source.fromFile(new File(filename))
val zs = buf.getLines().toList.toIterator
buf.close()
zs
а затем превратите мое понимание в:
for (l1 <- lines("file1.txt"); l2 <- linesEager("file2.txt")){
do_stuff(l1, l2)
}
это работает, но явно некрасиво. Может кто-нибудь предложить форма & чистый
способ достижения вышеуказанного. Похоже, вам нужен способ для итератора
возвращается lines
to close
файл, когда он достигает конца, и
должно быть, это происходило в 2.8
поэтому он там работал?
спасибо!
BTW -- вот минимальная версия полной программы, которая показывает проблему:
import java.io.PrintWriter
import java.io.File
object Fail {
def lines(filename: String) : Iterator[String] = {
val f = new File(filename)
scala.io.Source.fromFile(f).getLines()
}
def main(args: Array[String]) = {
val smallFile = args(0)
val bigFile = args(1)
println("helloworld")
for ( w1 <- lines(bigFile)
; w2 <- lines(smallFile)
)
{
if (w2 == w1){
val msg = "%s=%sn".format(w1, w2)
println("found" + msg)
}
}
println("goodbye")
}
}
On 2.9.0
я компилирую с scalac WordsFail.scala
и тогда я получаю это:
rjhala@goto:$ scalac WordsFail.scala
rjhala@goto:$ scala Fail passwd words
helloworld
java.io.FileNotFoundException: passwd (Too many open files)
at java.io.FileInputStream.open(Native Method)
at java.io.FileInputStream.<init>(FileInputStream.java:120)
at scala.io.Source$.fromFile(Source.scala:91)
at scala.io.Source$.fromFile(Source.scala:76)
at Fail$.lines(WordsFail.scala:8)
at Fail$$anonfun$main.apply(WordsFail.scala:18)
at Fail$$anonfun$main.apply(WordsFail.scala:17)
at scala.collection.Iterator$class.foreach(Iterator.scala:652)
at scala.io.BufferedSource$BufferedLineIterator.foreach(BufferedSource.scala:30)
at Fail$.main(WordsFail.scala:17)
at Fail.main(WordsFail.scala)
at sun.reflect.NativeMethodAccessorImpl.invoke0(Native Method)
at sun.reflect.NativeMethodAccessorImpl.invoke(NativeMethodAccessorImpl.java:39)
at sun.reflect.DelegatingMethodAccessorImpl.invoke(DelegatingMethodAccessorImpl.java:25)
at java.lang.reflect.Method.invoke(Method.java:597)
at scala.tools.nsc.util.ScalaClassLoader$$anonfun$run.apply(ScalaClassLoader.scala:78)
at scala.tools.nsc.util.ScalaClassLoader$class.asContext(ScalaClassLoader.scala:24)
at scala.tools.nsc.util.ScalaClassLoader$URLClassLoader.asContext(ScalaClassLoader.scala:88)
at scala.tools.nsc.util.ScalaClassLoader$class.run(ScalaClassLoader.scala:78)
at scala.tools.nsc.util.ScalaClassLoader$URLClassLoader.run(ScalaClassLoader.scala:101)
at scala.tools.nsc.ObjectRunner$.run(ObjectRunner.scala:33)
at scala.tools.nsc.ObjectRunner$.runAndCatch(ObjectRunner.scala:40)
at scala.tools.nsc.MainGenericRunner.runTarget(MainGenericRunner.scala:56)
at scala.tools.nsc.MainGenericRunner.process(MainGenericRunner.scala:80)
at scala.tools.nsc.MainGenericRunner$.main(MainGenericRunner.scala:89)
at scala.tools.nsc.MainGenericRunner.main(MainGenericRunner.scala)
2 ответов
scala-arm обеспечивает отличный механизм для автоматического закрытия ресурсов, когда вы закончите с ними.
import resource._
import scala.io.Source
for (file1 <- managed(Source.fromFile("file1.txt"));
l1 <- file1.getLines();
file2 <- managed(Source.fromFile("file2.txt"));
l2 <- file2.getLines()) {
do_stuff(l1, l2)
}
но если вы не рассчитываете на содержимое file2.txt
чтобы изменить, пока вы проходите через file1.txt
, было бы лучше прочитать это в List
перед петлей. Нет необходимости преобразовывать его в Iterator
.
может быть, вам стоит взглянуть на scala-arm (https://github.com/jsuereth/scala-arm) и пусть закрытие файлов (потоков ввода файлов) происходит автоматически в фоновом режиме.